SD No. 3 Cemagi berdiri sejak 01 Juli 1983. Sebelumnya sekolah ini bernama SD No. 10 Munggu, karena pada awalnya Desa Munggu dan Cemagi masih dalam satu naungan Desa Dinas yaitu Desa Munggu. Sekitar tahun 1982 yang saat itu gencar-gencarnya pemerintah membangun Sekolah Dasar Inpres, akhirnya di lokasi Banjar Seseh Desa Cemagi mendapat perhatian dari pemerintah dan dibangunlah Sekolah Dasar Inpres yang bernama Sekolah Dasar Nomor 10 Munggu.

Dalam catatan sejarah, beberapa tahun kemudian setelah SD No. 3 Cemagi berdiri, pemerintah melalui program pengembangan Desa, yaitu Desa Munggu wilayahnya di Desa Munggu dan Desa Cemagi berdiri sendiri mewilayahi Desa Cemagi yang terdiri dari 12 banjar dinas dan pada akhirnya SD No. 10 Munggu berubah nama menjadi SD No. 3 Cemagi.