Københavns Kommunes Skoleorkester blev grundlagt i 1955 af Københavns Kommunes skoledirektion som et musikalsk tilbud til kommunens folkeskoleelever. Orkestrets første dirigent var komponisten Peter Deutsch, der var kendt for sin underholdnings- og filmmusik og samtidig fungerede som dirigent for Dansk Ungdoms Symfoniorkester.
I mange år var KKSO en selvstændig enhed direkte under kommunen, indtil orkestret i 1991 blev en del af Københavns Musikskole. Gennem tiden har mange unge musikere fra hovedstadsområdet fået deres første orkestererfaring her, og da orkestret var størst, bestod det af hele 104 medlemmer.
Dirigentposten har også været præget af kontinuitet. Benny Berthelsen stod i spidsen for orkestret i 40 år, indtil han i januar 1996 blev efterfulgt af Jonas Viggo Pedersen. Efter halvandet år modtog Jonas et stipendium i Finland, og Mike Cholewa overtog dirigentrollen. Han ledede orkestret frem til december 2000, hvor Jonas vendte hjem og igen tog dirigentstokken – en rolle han har varetaget siden.