Το 21^ο Γυμνάσιο ιδρύθηκε στις 30 Ιουνίου 1987 με προσωρινή Διευθύντρια την κ. Καράπαλη Αλίκη ,φιλόλογο και συστεγαζόταν στο κτίριο του Πυροσβεστείου μαζί με το 1^ο Γυμνάσιο, το 6^ο Γυμνάσιο και το 6^ο Λύκειο. Συγκεκριμένα στεγαζόταν στην κάτω πτέρυγα και ενώ ξεκίνησε με λίγα τμήματα γρήγορα τα τμήματα αυξήθηκαν.

Στις 28 Σεπτεμβρίου 1987 την διεύθυνση του σχολείου ανέλαβε ο κ. Λέτσας Ανδρέας μαθηματικός.

Το φθινόπωρο του 1991 το 21^ο Γυμνάσιο μεταφέρεται στο συγκρότημα των Δημοτικών σχολείων της οδού Κύπρου. Συστεγαζόταν στην αρχή με τα Δημοτικά 66^ο, 58^ο και αργότερα και με το νεοιδρυθέν 56^ο Δημοτικό σχολείο και λειτουργούσαν σε πρωϊνή και απογευματινή βάρδια.

Από τον Ιανουάριο του1999 μεταφέρθηκε στο νεοανεγερθέν κτίριο Θερμοπυλών και Ανθεμίου.

Το νέο κτίριο διαθέτει εκτός από τις αίθουσες διδασκαλίας ,εργαστήριο πληροφορικής, εργαστήριο τεχνολογίας, εργαστήριο φυσικής, εργαστήριο χημείας και αίθουσα πολλαπλών χρήσεων.