Pada tahun 1925, sebuah sekolah yang dinamakan SEKOLAH ATAP telah ditubuhkan di kawasan Simpang Jeram, Muar. Ia ditempatkan di tapak Balai Belia sekarang. Sekolah tersebut telah diasaskan oleh Penghulu Abdul Aziz. Guru Besar yang bertanggungjawab mengendalikan Sekolah Atap Simpang Jeram pada masa itu ialah Tuan Haji Mahmud.

   Kemudian Sekolah Atap telah ditutup. Ia digantikan dengan Sekolah Melayu dan berpindah ke tapak bangunan yang ada sekarang. Bangunan pertamanya dibina pada tahun 1935 dan digunakan setahun kemudian. Pengasasnya ialah Penghulu Abdul Aziz,Penghulu Mukim Bakri Muar, manakala Guru Besar yang pertama ialah Tuan Haji Khalid Bin Haji Ahmad. Pada ketika itu, sekolah-sekolah seperti Sekolah Kebangsaan Bakri Batu 5 dan Sekolah Kebangsaan Parit Zin belum ditubuhkan lagi kecuali Sekolah Kebangsaan Bakri Batu 2. Sekolah Melayu ketika itu mempunyai dua blok iaitu satu blok untuk Sekolah Melayu Lelaki dan satu blok lagi untuk Sekolah Melayu Perempuan.

  Antara tahun 1957 dan tahun 1960, Sekolah Melayu telah ditukarkan namanya kepada Sekolah Umum. Pada tahun 1954, Sekolah Umum Lelaki dan Sekolah Umum Perempuan dicantumkan menjadi satu sekolah sahaja tetapi murid-muridnya diasingkan antara lelaki dan perempuan. Sekolah Umum Simpang Jeram tersebut ditukarkan sekali lagi namanya kepada Sekolah Kebangsaan Simpang Jeram di mana murid lelaki dan perempuan dicampurkan di dalam kelas yang sama hingga sekarang.

  Pada tahun 1974, sebuah blok bangunan baru telah dibina dan digunakan sehingga sekarang. Pada tahun yang sama juga, murid Sekolah Menengah Rendah Bakri, Batu 6 pernah menumpang belajar di sini sehingga pembinaan sekolah mereka dapat disiapkan. Perkembangan dan perubahan sekolah yang terdapat pada tahun 1974 berlanjutan serta murid-murid bertambah dari setahun ke setahun.

   Pada 21hb Januari 1996, jam 1.40 tengah hari satu bencana buruk telah berlaku. Blok C JKR 1023 Sekolah Kebangsaan Simpang Jeram telah terbakar. Walaubagaimanapun pihak bomba berjaya memadamkan api dan mengawal kebakaran. Didapati empat buah kelas musnah terus manakala tiga buah lagi tinggal sebahagian sahaja. Anggaran kemusnahan berjumlah RM67,497.00. Oleh kerana terdapat kekurangan bilik darjah akibat dari  kejadian kebakaran itu, sekolah ini terpaksa mengadakan dua sesi pembelajaran.

   Pada tahun 1997, Sekolah Kebangsaan Simpang Jeram telah mendapat bangunan baru satu blok tiga tingkat. Pada 1hb Mac 1995 pula, Sekolah Kebangsaan Simpang Jeram telah dinaikkan taraf ke gred A. Mulai tahun 2000, bangunan baru telah digunakan dan murid belajar dalam satu sesi sahaja.

 Sekolah Kebangsaan Simpang Jeram terus berkembang. Murid-murid bertambah dan bilangan bilik darjah pun meningkat sebanyak tiga belas buah kelas. Kini, murid-murid Sekolah Kebangsaan Simpang Jeram dapat belajar dengan kemudahan yang diberi seperti makmal sains, bilik muzik, bilik kemahiran hidup, pusat sumber dan bilik komputer. Persekitaran sekolah juga menjadi ceria. Justeru itu murid dapat belajar dengan selesa dan seterusnya dapat mempertingkatkan lagi prestasi dan pencapaian pada setiap tahun.  

   Seramai 17 orang guru besar telah berkhidmat di Sekolah Kebangsaan Simpang Jeram mulai tahun 1925 hingga kini.