У комунальному закладі "Харківська гімназія № 120 Харківської міської ради"  дуже складна і до кінця не досліджена історія. Архівні матеріали свідчать, про те, що школа розпочала свою роботу задовго до Другої світової війни. 22 червня 1941 року 120 середня школа випустила у доросле життя 5-й випуск 10-го класу.

Зі шкільних парт її випускники пішли захищати Батьківщину від фашистських окупантів. У роки війни школа деякий час працювала, але під час бомбардування була частково зруйнована.

Після війни школа розпочала свою роботу 1 вересня 1957 року, і тому ця дата є точкою відліку роботи сучасної 120-ї школи.

У  школі працювало багато гарних викладачів. Серед них Тичина Євген Григорович, рідний брат видатного українського письменника Павла Тичини, учнем якого був відомий поет Дмитро Білоус(1920–2004). На цьому не завершується список видатних випускників 120-ої, а тільки починається:

-         Хоронько Дмитро Юрійович, кінорежисер, засновник «Хоронько - оркестру»;

-         Раєвський Олександр Анатолійович, член президії Федерації України з баскетболу, неодноразово визнаний кращим баскетболістом України;

-         Вишницький Олексій Іванович,  заслужений майстер спорту, чемпіон Європи, дворазовий чемпіон світу з паурліфтінгу, учасник гри Форт Буаяр.