1899 metais liepos 1 d. Joniškėlio parapinė mokykla reformuojama į I. karpio vardo žemės ūkio mokyklą. „Naujosios mokyklos tikslas - vietos valstiečių vaikų mokymas bendrųjų pradžios mokyklos dalykų ir duoti žemės ūkio dalykų pagrindų, būtinų valstiečių buityje.“ Senasis mokyklos pastatas Joniškėlio centre, šalia bažnyčios, buvo pernelyg ankštas. Gavus lėšų iš valstybės iždo, nuspręsta statyti naują. Mokslo apygardos architektas Bykovskis Mažupės ir Mūšos santakoje, I. karpio mokyklai paskirtoje žemėje, suprojektavo didelį dviaukštį raudonų plytų pastatą.

Senoji Joniškėlio parapinė mokykla ir toliau sėkmingai gyvavo, ji buvo neatskiriama naujosios mokyklos dalis. Tik baigę pradinio ugdymo kursą Joniškėlyje mokiniai mokslus galėjo tęsti žemės ūkio mokykloje. 

1915 metais, vykstant Pirmojo pasaulinio karo mūšiams ir artėjant kaizerinės Vokietijos kariuomenei, mokykla gavo nurodymą evakuotis į Rusiją. Svarbiausias mokyklos turtas, daugelis mokytojų ir keliolika mokinių atsidūrė Jekaterinburge. Pradinės ir žemės ūkio mokyklų pastatai, likę be šeimininkų ir priežiūros, karo metu buvo nuniokoti, o jų turtas išgrobtas.

1928 m. birželio 6 d. Lietuvos ministrų kabinetas nuo 1929 metų rugpjūčio pirmos dienos iš tuomet veikusių 43 valdžios išlaikomų vidurinių mokyklų uždarė 14, tarp jų ir Joniškėlio vidurinę mokyklą. Mokyklos patalpos ir 1,25 ha žemės sklypas, priklausęs vidurinei mokyklai, buvo perduoti Joniškėlio V. Kudirkos pradinei mokyklai. Mokykloje dirbo du mokytojai - mokyklos vedėja Teklė Spudaitė ir mokytoja Ona Grigaliūnaitė. 1933 metais, atsižvelgiant į vietinių ūkininkų reikalavimą, pradinė mokykla buvo išplėsta į septynių skyrių mokyklą. Dirbo keturi mokytojai dviem pamainomis

Progimnazija atidaryta pradinės mokyklos patalpose. Mokyklos direktorius - Petras Zablockas. 1945-1946 m. m. augant progimnazijos mokinių skaičiui, pradinės mokyklos patalpos nebesutalpino visų mokinių, todėl progimnazija persikėlė į Karpio dvarą. Valdžia, pasigedusi „tarybinės dvasios“ ,  nuteisė direktorių Petrą Zablocką (1945 m.) ir antrajį - Praną  Kurlinkų (1946 m.) Sustiprinamas sovietinis ideologinis auklėjimas. 1947 m. pradėtos kurti pionierių, o 1948 m. komjaunimo organizacijos. Progimnazijos direktoriumi paskirtas Juozas Drazdauskas

1948-1949 m. m. atidarius 7-ąją progimnazijos klasę, Pasvalio apskrities švietimo skyrius oficialiai suteikė mokyklai Joniškėlio gimnazijos statusą. 

Nuo pat sovietinės okupacijos pradžios šalies mokyklos buvo pertvarkomos. Buvo siekiama jas suvienodinti su Rusijos (SSRS) mokyklomis. Prie progimnazijos prijungta pradinė mokykla ir pavadinta Joniškėlio vidurine mokykla (vienuolikos metų mokymosi laikas). Mokyklos direktoriumi paskirtas buvęs pradinės mokyklos vedėjas Mykolas Blevaitis. 

Laisvės dvasia mokykloje gyva. 1954 m. vidurinės mokyklos aštuntokai įkuria antisovietinę organizaciją „Geležinis vilkas“ kovai prieš okupantus. 1956 m. organizacijoje buvo jau 40 asmenų. 1956 m. gruodžio 30 d. Iškeliama rankomis pasiūta trispalvė. 15 narių suimami, tardomi, jiems uždraudžiama studijuoti aukštojoje mokykloje. 

Nuo 1957 m . gegužės 1 dienos mokyklos direktoriumi paskirtas Bronius Aleksandravičius. 

1959-1960 mokslo metais mokykloje pradėtas gamybinis mokymas. IX klasės mokiniai galėjo pasirinkti 3 specialybes. mechanizatoriaus vairuotojo, sodininko-daržininko ir pienininko. 

1961 metų spalio 1 d. mokykla persikėlė į naujas patalpas, kuriose yra iki šiol. 

1978 metais mokyklai vadovauti paskirtas  Antanas Kameninckas. 

1981 metais mokyklos direktoriumi tapo Algirdas Markevičius.

2009 m. gruodžio 31 d. Lietuvos Respublikos ir švietimo ir mokslo ministro įsakymu akredituojama mokykloje vykdoma vidurinio ugdymo programa ir mokykla įgyja gimnazijos statusą. Prie jos prijungti du vaikų dienos centrai - Deglėnų ir Nakiškių. 

2012 m. prie gimnazijos prijungimas Pušaloto progimnazijos skyrius ir Mikoliškio pradinio ugdymo skyrius. 

2015 m. veikia jau penki daugiafunkciai centrai - Deglėnų, Nakiškių, Norgėlų, Meškalaukio, Švobiškio. 

2016 m. uždarytas Mikoliškio pradinio ugdymo skyrius, o Pušaloto progimnazijos skyrius reorganizuotas į pradinio ugdymo. 2018m. uždarytas Pušaloto pradinio ugdymo skyrius.