Dwugłowy orzeł ze złożonymi skrzydłami, który widnieje w herbie PAOK, jest jednym z najbardziej wymownych symboli w europejskim futbolu. Orzeł bizantyjski ma zwykle skrzydła rozpostarte, a w klubie z Salonik zostały złożone na znak żałoby po utraconym Konstantynopolu. Herb klub przyjął w 1929 roku, po wchłonięciu AEK Saloniki, a wcześniej jego znakiem była podkowa z czterolistną koniczyną. W 2013 roku do herbu dodano złoty kontur, nawiązujący do bizantyjskiego dziedzictwa.
Klub, którego pełna nazwa brzmi Panthessalonian Athletic Club of Constantinopolitans, założono 20 kwietnia 1926 roku. Stworzyli go greccy uchodźcy z Konstantynopola, którzy po klęsce Grecji w wojnie grecko-tureckiej osiedlili się w Salonikach. Tradycyjne barwy mają to samo znaczenie co herb: czerń oznacza smutek po katastrofie małoazjatyckiej z 1922 roku i końcu greckiej obecności w Anatolii, a biel nadzieję na odrodzenie. Stąd przydomki Dikefalos (Dwugłowy Orzeł) i Asprómavri (Biało-Czarni). Pierwszy oficjalny mecz zespół rozegrał 12 grudnia 1926 roku, wygrywając 3:1 z Nea Genea Kalamaria, a pierwszym stadionem był Syntrivani.
Obecny stadion, Toumba, otwarto we wrześniu 1959 roku. Jego budowę sfinansowali kibice, co dobrze pasuje do klubu wywodzącego się ze wspólnoty uchodźców. Dziś obiekt ma 28 703 miejsc siedzących, ale rekord frekwencji, 45 252 widzów, padł 19 grudnia 1976 roku w meczu z AEK. Atmosferę tworzy m.in. grupa kibiców Gate 4, a największym lokalnym rywalem jest Aris, z którym PAOK rozgrywa derby Salonik.
PAOK czterokrotnie zdobył mistrzostwo Grecji, w latach 1976, 1985, 2019 i 2024. Pierwszy tytuł klub wywalczył pod wodzą trenera Gyuli Lórántа, a w 1985 roku drużynę prowadził jako kapitan Kostas Iosifidis. Mistrzostwo z 2019 roku było pierwszym od 34 lat i przeszło do historii: w sezonie 2018/19 zespół nie przegrał ani jednego meczu ligowego (26 zwycięstw, 4 remisy) i dołożył Puchar Grecji. Jest to jedyne w Grecji double zdobyte bez porażki w lidze. Klub osiem razy wygrał Puchar Grecji, w latach 1972, 1974, 2001, 2003, 2017, 2018, 2019 i 2021, a w 2017, 2018 i 2019 roku trzykrotnie z rzędu pokonał w finale AEK. PAOK jest też, obok Olympiakosu i Panathinaikosu, jednym z trzech klubów, które nigdy nie spadły z najwyższej klasy rozgrywkowej w Grecji.
W Europie najlepszy wynik klub osiągnął w sezonie 1973/74 w Pucharze Zdobywców Pucharów, kiedy pod wodzą trenera Lesa Shannona dotarł do ćwierćfinału; dwa kolejne ćwierćfinały to Liga Konferencji w sezonach 2021/22 i 2023/24. Do pamiętnych wieczorów należy wrzesień 1975 roku, gdy PAOK pokonał 1:0 na Toumba Barcelonę z Johanem Cruyffem w Pucharze UEFA. W 1997 roku wyeliminował Arsenal w eliminacjach Pucharu UEFA: wygrał 1:0 w Salonikach po golu Kostasa Frantzeskosa, a w rewanżu na Highbury zremisował 1:1 po bramce Zisisa Vryzasa.
W 2026 roku PAOK obchodzi stulecie istnienia, a w sezonie 2025/26 zakończył rozgrywki ligowe na trzecim miejscu. Dla klubu, którego tożsamość ukształtowało wysiedlenie, orzeł ze złożonymi skrzydłami wciąż przypomina o początku, a Toumba pozostaje symbolem trwałości i przynależności kolejnych pokoleń potomków uchodźców z Salonik.