O ΠΑΟΚ είναι η ιστορική συνέχεια του Κωνσταντινουπολίτικου αθλητικού και πολιτιστικού Σωματείου «Ερμής», που δημιουργήθηκε από Ρωμιούς της Πόλης το έτος 1875, στην καρδιά της Κωνσταντινούπολης - το Πέρα. Εγκαθίστανται στη Θεσσαλονίκη και εν έτει 1926 ιδρύουν τον Πανθεσσαλονίκειο Αθλητικό Όμιλο Κωνσταντινουπολιτών (Π.Α.Ο.Κ.), κρατώντας τα σύμβολα της κραταιάς ρωμιοσύνης - το Δικέφαλο του Βυζαντίου - αλλά για χρώματα διαλέγουν το πένθιμο μαύρο (για να συμβολίζει την τραγική ιστορία της Ρωμιοσύνης) αλλά και το αισιόδοξο λευκό που θα τους άνοιγε ένα παράθυρο στο μέλλον - και θα συμβόλιζε τον αγώνα για το αύριο και τις νίκες που θα κατακτούσαν. Αυτή η ιστορία τον καθιστά ουσιαστικά ως ένα από τα αρχαιότερα αθλητικά σωματεία με βαριά παρακαταθήκη ιστορίας!



Tο 1927 ακούγεται ο πρώτος Ύμνος του ΠΑΟΚ: "Είμαστε εμείς της Πόλης τα παιδιά τα παινεμένα, που παίζουμε τη μπάλα ξακουσμένα, έχουμε περίσσια χάρη, που δεν την έχει ομάς καμία άλλη. Το σύστημά μας είναι πάσα-πάσα, στο τέλος της σεζόν θα κάνουμε την ...κάσα, να δούμε πόσα γκολ μας έχουν δώσει, και πόσα εμείς τους έχουμε φουσκώσει. Τα έχουμε όλα, όλα, όλα, σκάρες, παπούτσια, παντελόνια, μαύρη φανέλα κι επιγονατίδες, για να τρελαίνονται οι ...δεσποινίδες. Δεν φοβόμαστε κανέναν, Άρη ούτε Ηρακλή, γιατί έχουμε αρχηγό μας Βεντουρέλλη μερακλή."

Στην πρεμιέρα του πρώτου πρωταθλήματος της Α΄ Εθνικής κατηγορίας (25 Οκτωβρίου 1959) ο ΠΑΟΚ υποδέχτηκε στην Τούμπα το Μέγα Αλέξανδρο Κατερίνης και τον νίκησε με σκορ 3-1.

Ακολουθεί μια δεκαετία, στη διάρκεια της οποίας η ομάδα του Δικέφαλου κινήθηκε σε μια μετριότητα. Θα μπορούσε να πει κανείς πως ήταν σαν να συγκέντρωνε δυνάμεις για το μεγάλο ξέσπασμα της δεκαετίας του 70, όταν και η ομάδα καθιερώθηκε ως μια από τις καλύτερες που πέρασαν ποτέ από τα Ελληνικά γήπεδα. Με παίκτες που τα ονόματά τους είναι και ήταν θρύλος στην ποδοσφαιρική Ελλάδα.
Η πολύ καλή πορεία συνεχίστηκε και τη δεκαετία του 80, με πολύ λίγες αποτυχημένες χρονιές. Το αποκορύφωμα έρχεται στα μέσα της δεκαετίας, όπου το 1985 κατακτά το δεύτερο πρωτάθλημα Ελλάδος και το πρώτο επαγγελματικό, αφού το Ελληνικό ποδόσφαιρο είχε αλλάξει κατεύθυνση προς τον επαγγελματισμό.



Η δεκαετία του 90 αρχίζει πολύ καλά, κρατώντας τον ΠΑΟΚ μέσα στις τρεις καλύτερες ομάδες της Ελλάδας. Στιγματίζεται όμως από την πολύ μέτρια ως κακή πορεία του Δικέφαλου, την εποχή που πρόεδρος της ομάδας ήταν ο Θ. Βουλινός, ο οποίος ήρθε σε απευθείας σύγκρουση με τους οργανωμένους οπαδούς, ύστερα από το σοβαρά επεισόδια στον αγώνα ΠΑΟΚ-Παρί Σεν Ζερμεν, τα οποία οδηγούν τον ΠΑΟΚ στην απομόνωση και τον οικονομικό μαρασμό.
Το επόμενο βήμα, έγινε μόλις το 2001, με την κατάκτηση του Κυπέλλου Ελλάδας μετά από 25 χρόνια, σε έναν αξέχαστο τελικό κόντρα στον Ολυμπιακό. Ο ΠΑΟΚ διέσυρε στη Νέα Φιλαδέλφεια τους πρωταθλητές με 4-2.



Το καλοκαίρι του 2002 και πάλι στον πάγκο του ΠΑΟΚ, βρίσκεται ο Άγγελος Αναστασιάδης. Η σεζόν οδήγησε σε έναν ακόμη μεγάλο θρίαμβο, με την κατάκτηση του Κυπέλλου για δεύτερη φορά σε τρία χρόνια (Γήπεδο Τούμπας 1-0 τον Άρη). Η επόμενη σεζόν όμως, ήταν αυτή που «φιλοξένησε» την υπέρβαση,ο ΠΑΟΚ κατάφερε να εξασφαλίσει την συμμετοχή του στα προκριματικά του Τσάμπιονς Λιγκ, καταλαμβάνοντας την τρίτη προνομιούχο θέση.