Pada tahun 1907, Sekolah Kebangsaan Undang Johol diasaskan pada tahun 1893 secara menumpang di bangunan kedai kosong berhadapan balai polis Johol. Awalnya dikenali sebagai Sekolah Melayu Johol. Kemudiannya berpindah ke suatu tempat antara Kampung Tumang dengan Kampung Malok iaitu di Bukit Sempa (Sompo) pada tahun 1900. Sekolah ini telah berpindah ke tapak baru iaitu di belakang bangunan B yang ada sekarang ini. Pada tahun 1910 sekolah ini beroperasi pada waktu pagi dan petang. Murid-murid lelaki belajar pada waktu pagi, sementara itu waktu petang pula adalah untuk murid-murid perempuan.
Pada tahun 1912, bangunan baru telah didirikan khusus untuk murid-murid perempuan iaitu bangunan B sekarang ini. Guru besarnya pada waktu itu ialah Puan Hajjah Munah Binti Othman dari Melaka dengan muridnya seramai 50 orang. Kurikulum yang diajar pada ketika itu adalah pelajaran jawi, tulisan rumi, kira-kira, menjahit, mengait dan memasak. Pada tahun 1922, murid-murid lelaki dan perempuan digabungkan dan belajar di bangunan baru yang sebelum ini dikhaskan untuk murid perempuan sahaja. Guru kedua-dua sekolah digabungkan.
Semasa pemerintahan Jepun pada tahun 1942 -1945, sekolah ini adalah di bawah pentadbiran jepun yang bernama Ivi Kekumin Gakko. Ia menggunakan kurikulum jepun dan bahasa pengantarnya ialah bahasa jepun. Sekolah Kebangsaan Johol telah mendapat sebuah bangunan konkrit 3 tingkat dengan 12 bilik darjah pada 26 oktober 1977. Bangunan ini didirikan di tapak bangunan sekolah lama yang didirikan pada tahun 1912. Bangunan ini telah dijadikan pusat pentadbiran sekolah di mana terletaknya pejabat, bilik guru besar, bilik guru-guru penolong kanan, pusat sumber, dewan dan bilik darjah. Pada tahun 1977, sekolah ini telah ditukar nama kepada Sekolah Kebangsaan Undang Johol.
SENARAI GURU BESAR
EN. AWALLUDIN BIN SUBOH
2026 - KINI
PN. SITI MARZIAH BINTI MOHD YUSOFF
2025 - 2026
EN. AZHAR BIN SAMAH
2023 - 2025