Історія навчального закладу розпочалася в 1969 році. У зв’язку із закінченням будівництва школи по вулиці Молодіжна селища Комсомольська на 1320 місць, учні та вчителі середньої школи №21 по вулиці Миру, перейшли у новозбудовану школу. Першим директором нового закладу було призначено заслуженого вчителя УРСР М.І. Старишка (1969–1970 рр.).
    Із 1972 по1978 роки школа була переможцем обласних і республіканських змагань із туризму й краєзнавства.
    У 1974–1975 н.р. педколектив закладу занесений на обласну дошку пошани за успіхи при підготовці до нового навчального року.
    У 1977 році, у зв’язку з віднесенням міста Комсомольська до міст обласного підпорядкування, середню школу №21 було передано з відомства Кременчуцької міської ради депутатів трудящих у підпорядкування Комсомольської міської ради депутатів трудящих Полтавської області.
    12 травня 1977 року рішенням Комсомольської міської ради депутатів трудящих Полтавської області змінено назву середньої школи №21 на середню школу №2, на базі якої відбувся перший семінар керівників шкіл міста.
    Рішенням виконавчого комітету Комсомольської міської ради від 14 жовтня 1980 середню школу №2 реорганізовано в середню школу №2 з поглибленим вивченням математики.
    Результатом наполегливої праці вчителів були успіхи учнів школи, які стали переможцями обласних олімпіад і ввійшли в першу десятку переможців республіканських олімпіад з математики та фізики. Це такі учні: Мараняк Дмитро, Вощан Олег, Леляков Ігор, Козловський Анатолій, Васін Ігор, Лагно Людмила, Мартиненко Роман.
    З ініціативи Л.І.Бугаєвської, яка працювала директором школи з 1970 по 1976 роки, у школі розпочали роботу гуртки художньої самодіяльності. Один із них, жіночий ансамбль «Відродження», на черговому конкурсі посів призове місце та став учасником обласного конкурсу, де був визнаний кращим. А в академічному хорі, що працював при ПКіТ, було найбільше учасників із середньої школи №2.
    У 2000 році на базі навчального закладу організовано історико-краєзнавчий музей, який отримав офіційну реєстрацію 21 листопада 2001 року. Наразі роботу музею очолює вчитель історії Ю.М.Шевченко.
    У 2003 році перейменовано СШ №2 з поглибленим вивченням математики на Загальноосвітню школу І–ІІІ ступенів №2 з поглибленим вивченням математики міста Комсомольська.
    Рішенням виконавчого комітету Комсомольської міської ради Полтавської області від 02.12.2004 року ЗОШ І–ІІІ ступенів №2 з поглибленим вивченням математики міста Комсомольська перейменовано у Комсомольську загальноосвітню школу І–ІІІ ступенів №2 з поглибленим вивченням математики Комсомольської міської ради Полтавської області.
    Із 2002 в закладі впроваджується профільне навчання за такими напрямками: історично-правовий, географічний, технологічний, математичний та інформаційно-технологічний.
    Із 2006 по 2009 рік на базі школи проводився регіональний етап Всеукраїнського конкурсу «Безпечна Україна. Безпечна Європа. Безпечний світ». У 2008 році Волевач Анастасія стала переможцем даного конкурсу.
    Із 2007 року колектив школи є організатором Всеукраїнської учнівської конференції «Стабільність і безпека – гарантія майбутнього України».
    У 2007- 2008 роках заклад брав участь у виставках презентаціях «Освіта України», « Інноваційні технології навчання» і був нагороджений дипломами за розробку та впровадження в навчально-виховний процес новітніх педагогічних технологій.
    Із 2009 року заклад є членом Всеукраїнської мережі «Шкіл сприяння здоров'ю».
    У 2009 році спільно з батьками й старшокласниками обумовлено концептуальні засади закладу, що визначили принципи й напрямки діяльності, місію «Кожній дитині – гідні й необхідні умови розвитку та реалізації свого потенціалу для власного й суспільного блага», сформували філософію школи: "Шляхом співпраці дітей, батьків, учителів, громади, розуміючи, що кожен є самоцінною особистістю, через відкриті щирі стосунки, беззаперечне прийняття дитини, свободу й творчість учителя створити умови для гармонійного розвитку Людини». Було розроблено «План розвитку школи», що реалізується через проекти: «Здоровим бути – бути щасливим!»; «Простір життєтворчості»; «Благополуччя»; «Крок до зірок»; «Глибини математики»; «Світ без обмежень»; «Без серця що зрозуміємо?»; «Родина»; «Комфортне забезпечення», в основі яких - демократизація, волонтерство, партнерство.
    Навчальний заклад працює над науково-методичною проблемою «Формування високоморальної особистості на основі всебічного розвитку здібностей шляхом упровадження інноваційних та інноваційно-комунікаційних технологій».
    Школа – учасник експериментальної діяльності різних рівнів (з 2009 р. – регіонального, з 2011 – всеукраїнського):

• у 2009–2011 роках з метою формування економічних знань учнів 9–10-х класів у процесі навчання географії, визначення оптимальних умов формування економічних та цілісних суспільно-географічних знань у закладі пройшла апробація експериментальної діяльності з географії (праця А.А.Шуканової, старшого викладача кафедри географії та краєзнавства Полтавського національного педагогічного університету ім.В.Г.Короленка «Методика формування економічних знань в учнів 9–10-х класів у процесі навчання географії»);

• у 2009–2012 роках була запроваджена експериментальна діяльність з географії під керівництвом Л.М.Булави, кандидата географічних наук, доцента кафедри Полтавського національного педагогічного університету ім.В.Г.Короленка «Методична система формування компетентності учнів з фізичної географії». Експеримент проводив учитель географії кваліфікаційної категорії «Спеціаліст вищої категорії», який має звання «Учитель методист» В.Є.Возняк;

• із 2011 по 2016 рік в школі проводиться експеримент із медіаосвіти «Науково-методичні засади впровадження медіаосвіти у навчально–виховний процес загальноосвітніх навчальних закладів», керівником якого є заступник директора Н.Ю.Масляник. Викладання даного курсу базується на інноваційних технологіях, що забезпечує не лише отримання нової інформації учнями, а й створює можливості для творчості та саморозвитку кожного з них;

• у 2013 року в школі розпочато дослідно-експериментальну роботу «Науково-методичні засади впровадження фінансової грамотності у навчально виховний процес загальноосвітніх навчальних закладів» розраховану до 2019 року. Керівник–учитель економіки Н.В.Деркач;

• із 2014 року з метою створення та впровадження в практику роботи навчального закладу інноваційної системи інформаційного забезпечення керівних, педагогічних кадрів для вирішення управлінських, навчальних, виховних та розвивальних завдань освітнього процесу ЗОШ І–ІІІ ступенів №2 приєдналася до Всеукраїнського експерименту «Електронна бібліотека «ШБІЦ інфо», який розрахований на період з 2014 по 2017 рік. Керівник – завідувач бібліотекою Т.К.Чернявська;

• із 2015 року за сприяння Міністерства освіти і науки України заклад упроваджує програму «Медіація в навчальному закладі та громаді. Забезпечення участі дітей і жінок у розв’язанні конфліктів і миробудуванні».

     У 2015 році заклад перейменовано з Комсомольської ЗОШ І–ІІІ ступенів №2 з поглибленим вивченням математики Комсомольської міської ради Полтавської області на Загальноосвітню школу І–ІІІ ступенів №2 Комсомольської міської ради Полтавської області.
    За час існування школи директорами закладу працювали:

• Старишко Микола Іванович (1969–1970)

• Бугаєвська Людмила Іванівна (1970–1976), почесний громадянин міста

• Мішина Валентина Іванівна (1976–1984)

• Гончаренко Віктор Олександрович (1984–1986)

• Пазиненко Любов Никанорівна (1986–1991)

• Манжос Володимир Євгенович (1995–1997)

• Кам’янський Дмитро Іванович (1991–1995; 1997–2007)

• Васильченко Олена Володимирівна (2007–2015)

• Альошкіна Інна Валеріївна (2015-2017)

• Кириченко Тетяна Григорівна (2018- )

​​​​​​     У школі працювали учительські подружжя: Едуарда Дмитровича та Паші Миколаївни Полякових, Юрія Михайловича та Таїсії Ігорівни Глушків, Олексія Дмитровича та Надії Семенівни Шаповалів, Анатолія Івановича та Лідії Іванівни Калініченків, які виховали плеяду талановитих учнів.
    ЗОШ І-ІІІ ступенів №2 славиться випускниками- керівниками міста в різних галузях:

• Лотоус Віктор Вікторович – Генеральний директор ВАТ «Полтавський ГЗК»

• Василюк Петро Борисович – начальник управління житлово-комунальним господарством

• Муха Юрій Миколайович – заступник міського голови

• Нестеренко Світлана Григорівна – начальник управління пенсійного фонду

     13 лютого 2015 р. на фасаді школи було встановлено меморіальну дошку воїну-інтернаціоналісту, випускнику школи Титову В’ячеславу Михайловичу.
    За останні роки значно покращилася матеріально технічна база закладу, за рахунок бюджетних асигнувань, благодійної допомоги батьківської громади, Благодійного Фонду ВАТ «Полтавський ГЗК». У школі діють сучасні інноваційні кабінети хімії, інформатики, хімії, біології, математичний комплекс ім.М.В.Остроградського, інформаційно-просвітницький центр «Шкільна бібліотека».