Ιδρύθηκε στη Θεσσαλονίκη το Σεπτέμβριο του 1926 από τον Επαμεινώνδα Κ. Φλώρο ως «Μακεδονική Μουσική Σχολή» με έδρα στην οδό Βασιλέως Γεωργίου.

Το 1927 μετονομάστηκε σε «Μακεδονικό Ωδείο», συνεχίζοντας έκτοτε την λειτουργία του και με παραρτήματα σε άλλες πόλεις της Μακεδονίας (Κατερίνη, Βέροια, Φλώρινα, Κιλκίς, Τούμπα Θεσσαλονίκης).

Το 1930, τη διοίκηση του Ωδείου ανέλαβε το ομώνυμο καλλιτεχνικό σωματείο, αποτελούμενο από Θεσσαλονικείς φιλόμουσους και το 1933, σύμφωνα με την Υπουργική Απόφαση 29626/9.6.1933, αναγνωρίστηκε επίσημα από το Κράτος ως «Ωδείο» (ίδρυμα μη κερδοσκοπικού χαρακτήρα) με έδρα την οδό Αγίας Σοφίας 26.

Οι πρώτοι στυλοβάτες του, εκτός από τον Επαμεινώνδα Κ.Φλώρο, ήταν οι: Αιμίλιος Ριάδης, Λώρης Μαργαρίτης, Ηρακλής Πασχαλίδης, Γιώργος Βάμβας, Χαράλαμπος Κελπανίδης, Βρέτος, η καθηγήτρια της μελοδραματικής Αλέκα Φραγκουδάκη και πολλοί άλλοι.

Το 1924 o Επαμεινώντας Κ. Φλώρος ίδρυσε υπό τη διεύθυνσή του τη Μακεδονική Μικτή Χορωδία, η οποία το 1940 μετονομάστηκε σε «Εθνική Χορωδία» και το 1950 εντάχθηκε ως τμήμα των πολιτιστικών δραστηριοτήτων του Δήμου Θεσσαλονίκης, ενώ το 1931 το Μακεδονικό Ωδείο ίδρυσε τη Μακεδονική Συμφωνική Ορχήστρα, η οποία παρουσίασε πολλαπλά προγράμματα υπό τη διεύθυνση του Επαμεινώνδα Κ. Φλώρου.

Ο πρώτος διπλωματούχος του Ωδείου ήταν ο πιανίστας Τώνης Γεωργίου.

Μέχρι τη δεκαετία του 1980 στο Μακεδονικό Ωδείο λειτουργούσε Σχολή Μπαλέτου, κάτω από την ευθύνη της Έφης Βαφειάδου  και Σχολή Θεάτρου (Δραματική Σχολή) μέχρι το 1984, κάτω από την ευθύνη της Αγγελικής Τριανταφυλλίδου.