Η Αθλητική Ένωση Πυλαίας ιδρύθηκε το 1976 στην ομώνυμη Κοινότητα τότε, σήμερα Δήμο, από μια χούφτα ανθρώπους που αγαπούσαν τον αθλητισμό και ειδικά το ποδόσφαιρο.
Εμπνευστής και πρωταγωνιστής της δημιουργίας ενός νέου αθλητικού σωματείου σε μια περιοχή, όπου προϋπήρχε ένα άλλο ιστορικό σωματείο της Θεσσαλονίκης ο Εθνικός Πυλαίας, ήταν ο αείμνηστος ΑΝΤΩΝΗΣ ΚΑΡΑΜΠΟΥΡΝΙΩΤΗΣ ο γνωστός σε όλο τον φίλαθλο κόσμο, όχι μόνο της Πυλαίας αλλά και της Θεσσαλονίκης με το όνομα «Μπαρμπαντώνης». Άλλα ιδρυτικά μέλη ήταν οι :
ΤΣΑΚΑΛΟΣ Γ. , ΓΑΡΥΦΑΛΛΟΥ Δ. , ΠΑΠΑΔΑΦΝΙΑΔΗΣ Α. , ΚΑΡΒΟΥΝΙΑΡΗΣ Ι. , ΜΑΤΖΑΡΛΗΣ Δ. , ΛΙΟΥΤΑΣ Σ. , ΓΕΩΡΓΙΤΣΕΛΗΣ Ζ. , ΤΖΙΣΤΟΥΔΗΣ ΓΡ. , ΜΠΟΛΑΣ Α. , ΓΚΕΛΗΣ Δ. , ΤΣΑΚΑΛΟΣ Β. , ΚΑΡΑΜΗΤΣΟΣ Ι. , ΛΑΓΟΣ Α. , ΕΥΑΓΓΕΛΟΥΔΗΣ Γ. , ΜΠΟΖΙΝΗΣ ΓΡ. ,ΜΠΑΡΟΥΤΗΣ Α. , ΠΑΡΑΔΑΣ Δ. , ΚΟΥΡΟΥΜΑΝΗΣ ΣΤ. , ΚΟΤΑΚΟΣ Κ. , ΠΟΛΥΧΡΟΝΟΠΟΥΛΟΣ Δ. , ΝΤΑΛΑΚΟΥΔΗΣ Δ. , ΚΑΡΑΚΟΥΤΕΛΗΣ Ι. , ΤΣΑΜΠΑΖΗΣ ΠΑΣΧ. , ΑΝΔΡΟΥΛΑΚΗΣ Ι. , ΚΑΚΑΡΙΚΑΣ Ζ. , ΖΑΛΙΔΑΣ Β. , ΚΟΥΦΑΛΙΩΤΗΣ Π. , ΤΡΑΓΙΑΝΟΣ Α. , ΚΙΟΣΣΕΣ Α.
Βασικός σκοπός, ήταν η δημιουργία ενός σωματείου, που θα έδινε με την παρουσία και την λειτουργία του μια νέα πνοή στον χώρο του ερασιτεχνικού ποδοσφαίρου της ευρύτερης περιοχής της Θεσσαλονίκης. Ιδέα απόλυτα σύμφωνη με το πνεύμα της εποχής της μεταπολίτευσης, όπου όλοι έψαχναν να βρουν τρόπους ρήξης με το καταστημένο.