Ο Ηρακλής έχει τις ρίζες του βαθιά μέσα στον χρόνο. Είναι το παλιότερο αθλητικό σωματείο σε ολόκληρη την Ελλάδα. Και τα χρώματά του, το γαλάζιο και το λευκό, θυμίζουν έντονα τα χρώματα της Ελλάδας. 
Η ιστορία του Ηρακλή ξεκινά από το 1899, όταν ιδρύθηκε ο όμιλος Φιλόμουσων. Ο όμιλος δεν ήταν αθλητικός σύλλογος, αλλά ένα σωματείο γραμμάτων και μουσικής. Το 1903, τα μέλη του ομίλου αποφάσισαν να εντάξουν στις δραστηριότητες τους τον αθλητισμό. Δημιούργησαν ένα γυμναστήριο και ίδρυσαν τμήματα κολύμβησης και ποδηλασίας. Ωστόσο, ήταν το ποδόσφαιρο, ένα νέο άθλημα εκείνης της εποχής που «έκλεψε τις καρδιές» των αθλητών.
Το πρώτο επίσημο παιχνίδι διεξήχθη στις 23 Απριλίου του 1905, αλλά στη συνέχεια ο σύλλογος άρχισε να αντιμετωπίζει οικονομικά προβλήματα. Τρία χρόνια αργότερα, το 1908, ημερομηνία-ορόσημο για τον Ηρακλή, όλα άλλαξαν. Ο σύλλογος συνεργάστηκε με την ομάδα «Ολύμπια» και η συνένωση των δυνάμεων τους είχε ως αποτέλεσμα τη γέννηση του Ηρακλή. Ολόκληρη η ονομασία του ήταν τότε: «Οθωμανικός Ελληνικός Σύλλογος Θεσσαλονίκης "Ο Ηρακλής"». Το τμήμα ποδοσφαίρου ήταν το πρώτο που δημιουργήθηκε. Οι πρώτες επιτυχίες δεν άργησαν να έρθουν. Στις 29 Νοεμβρίου 1908, κατά τη Γενική Συνέλευση των μελών, καταρτίσθηκε το πρώτο καταστατικό του ΗΡΑΚΛΗ αποτελούμενο από 36 άρθρα. Πρώτος Πρόεδρος στην ιστορία του ΗΡΑΚΛΗ ήταν ο ιατρός Α. Μάλτος.

Το 1914 ο Ηρακλής αντιμετώπιζε προβλήματα στέγασης, καθώς τα έσοδα του συλλόγου ήταν ελάχιστα και προέρχονταν μόνον από συνδρομές μελών. Ωστόσο, ο σύλλογος κατάφερε, χάρη στη δυναμική του, να αντεπεξέλθει στις δυσκολίες και οι εγκαταστάσεις του έγιναν «πυρήνας» αθλητισμού στην πόλη της Θεσσαλονίκης. Ο Ηρακλής είναι άρρηκτα δεμένος με την ιστορία της πόλης και είναι χαρακτηριστικό ότι πάρα πολλοί σπουδαίοι ποδοσφαιριστές και μετέπειτα προσωπικότητες της Θεσσαλονίκης και της χώρας φόρεσαν την ένδοξη φανέλα με τον «ημίθεο» στο στήθος.Από τότε που ιδρύθηκε ο ποδοσφαιρικός σύλλογος του Ηρακλή, το ποδόσφαιρο άρχισε να γίνεται δημοφιλές σε όλη την Ελλάδα. Στους πρώτους μεταπολεμικούς Πανελλήνιους Αγώνες η «κυανόλευκη» ομάδα πέτυχε πολλές σημαντικές νίκες και αποτέλεσε την ομάδα-πρότυπο της εποχής.Καθώς τα χρόνια περνούν, ο Ηρακλής εξακολουθεί να συγκαταλέγεται στις κορυφαίες ομάδες ποδοσφαίρου. Η αρχή της δεκαετίας του 1920 σημαδεύτηκε από εθνικά γεγονότα, αλλά αυτό δεν εμπόδισε τον σύλλογο να αναδειχθεί πολυνίκης στους Πανθρακικούς Αγώνες (1923). Την ίδια χρονιά δημιουργούνται τα πρώτα παιδικά τμήματα.Η ιστορία του Ηρακλή, μετά τον Β' Παγκόσμιο Πόλεμο, περιλαμβάνει τη συμμετοχή σε πέντε τελικούς του Κυπέλλου Ελλάδας (1947, 1975, 1976, 1980, 1987). Το 1976 ήταν η χρονιά που θα μείνει βαθιά χαραγμένη στις μνήμες όλων των φιλάθλων του Ηρακλή. Την 9η Ιουνίου 1976, στη Νέα Φιλαδέλφεια, η αγαπημένη ομάδα όλης της Ελλάδας νίκησε στα πέναλτι τον Ολυμπιακό (6-5, 4-4 στην κανονική διάρκεια και στην παράταση) καικατέκτησε το Κύπελλο Ελλάδας. Την επόμενη ημέρα, όταν οι «κυανόλευκοι» ποδοσφαιριστές επέστρεψαν στη Θεσσαλονίκη, πάνω από εκατό χιλιάδες φίλαθλοι τους επεφύλαξαν αποθεωτική υποδοχή.Το 1976 ο Ηρακλής μετέχει στο Κύπελλο Κυπελλούχων Ευρώπης, ενώ έξι φορές έχει λάβει μέρος στην διοργάνωση του Κυπέλλου UEFA (1962, 1964, 1989, 1990, 1996, 2000). Μάλιστα, κατά την περίοδο 2000-2001, προκρίθηκε για πρώτη φορά στον δεύτερο γύρο της διοργάνωσης.Το 1985 ο Ηρακλής κατέκτησε το Βαλκανικό Κύπελλο, επικρατώντας στον τελικό της ρουμανικής Arges Pitesti με 4-1.

Σημαντικές Χρονολογίες
1928 Ο Ηρακλής κατακτά το πρωτάθλημα ποδοσφαίρου Θεσσαλονίκης
1933 Συμμετέχει σε ημιτελικό κυπέλλου Ελλάδας
1934 Καταλαμβάνει την δεύτερη θέση στο εθνικό πρωτάθλημα
1935 Βαλκανικό κύπελλο στη Σόφια Βουλγαρίας Σύνθεση Ηρακλή: Σιδερόπουλος, Κατραντζόπουλος, Ρίμπας, Χούμης, Μπαλτάσης, Βικελίδης, Κασιμάτης, Συμεωνίδης, Χριστοδούλου, Μυγιάκης, Κουράντης Γήπεδο: Γιούνακ
1938 Κατακτά το πρωτάθλημα ποδοσφαίρου Θεσσαλονίκης
1939 Καταλαμβάνει την δεύτερη θέση στο εθνικό πρωτάθλημα
1947 Συμμετέχει στο Εθνικό Πρωτάθλημα (βγαίνει δεύτερος) και στον τελικό του Κυπέλλου Ελλάδας
1951 Τρίτος στο εθνικό πρωτάθλημα
1957 Συμμετέχει στον τελικό του κυπέλλου Ελλάδας
1958 Συμμετέχει μέχρι τον ημιτελικό του κυπέλλου Ελλάδας
1961 Συμμετέχει μέχρι τον ημιτελικό του κυπέλλου Ελλάδας. Παράλληλα, παίρνει μέρος (πρώτη συμμετοχή ελληνικής ποδοσφαιρικής ομάδας) στο Κύπελλο Εκθέσεων, το σημερινό ΟΥΕΦΑ
1971 Συμμετέχει μέχρι τον ημιτελικό του κυπέλλου Ελλάδας
1975 Συμμετέχει μέχρι τον ημιτελικό του κυπέλλου Ελλάδας
1976 Κατακτά το κύπελλο Ελλάδας
1980 Συμμετέχει στον τελικό του Κυπέλλου Ελλάδας
1985 Κατακτά το Βαλκανικό κύπελλο
1987 Συμμετέχει στον τελικό του κυπέλλου Ελλάδας
1989 Συμμετέχει στο κύπελλο ΟΥΕΦΑ
1990 Συμμετέχει στο κύπελλο ΟΥΕΦΑ
1996 Συμμετέχει στο κύπελλο ΟΥΕΦΑ
1998 Συμμετέχει στην ημιτελική φάση του Κυπέλλου Ελλάδας
2000 Συμμετέχει στο κύπελλο ΟΥΕΦΑ περνώντας για πρώτη φορά στον δεύτερο γύρο της διοργάνωσης αποκλείοντας τη γαλλική Gueugnon
2001 Κατακτά την πέμπτη θέση του πρωταθλήματος και συμμετέχει στην ημιτελική φάση του Κυπέλλου Ελλάδας
2002 Κατακτά την 6η θέση του Πρωταθλήματος. Εξοδος στην Ευρώπη
2003 Κατακτά την 7η θέση του Πρωταθλήματος και λαμβάνει μέρος στο Κύπελλο
2004 Κατακτά την 8η θέση του Πρωταθλήματος και συμμετέχει στην προημιτελική φάση του Κυπέλλου Ελλάδος
2006 Με εκπληκτική και άξια καταγραφής πορεία, ιδίως στον δεύτερο γύρο του πρωταθλήματος, η ομάδα φτάνει στην 4η θέση του βαθμολογικού πίνακα με την τελική κατάταξη. Ο ΗΡΑΚΛΗΣ τερματίζει με ενεργητικό 51 βαθμών.