这种中国大型器乐合奏是二十世纪才渐渐发展而成的新型中国器乐合奏形式，可谓“既不民间，亦不传统”，形成后却得到广泛传播及官方支持（如中华民国称之为国乐队）。一些学者提出民族管弦乐团是一种“泛中国”的表演形式。

在1920年代在上海，由郑觐文等人成立了大同乐会，致力于传统乐器改造和创新，并组成了一个乐队，分为吹、弹、拉、打4组，当时乐队编制约30人。大同乐会根据中国传统音乐改编一批适合于这种新型乐队演奏的合奏作品，其中最为著名的是由郑觐文、柳尧章根据琵琶曲《浔阳夜月》改编而成的合奏曲《春江花月夜》。

1935年，中央广播电台民乐团成立于南京，为中国最早的正式民乐团，后来在对抗日战期间迁往重庆，一直努力于乐队编制的改进以及乐器的改革，包括音域的增加、中、低音胡琴的改革等。1949年以后，中国广播民乐团随中华民国政府迁往台湾。台湾大学于1952年，师范大学于1953年成立国乐社。

中国大陆于1952年成立了最早的大型民族乐队上海民族乐队。1953年，中国广播民族乐队在北京成立，在彭修文等人的努力下，在乐队声部编制、乐曲创作，以及乐器的改进上都有很大的成绩，中国广播民族乐队的编制，成为后来民乐团的基础编制，至今未有重大的改变。