Perjalanan sejarah mencatat bahwa, sejalan dengan pengembangan organisasi dalam tubuh Kementerian Agama ini, keberadaan MTs Negeri 2 Ogan Komering Ilir telah mengalami tiga kali perombakan (Proses Perubahan Nomenklatur). Pertama kali dibentuk pada tahun 1992 dengan nama Yayasan Makarimul Akhlaq, MTs Swasta dengan toko perintisnya Ki M. Bey Dahlan terletak di Desa Cambai, Kec. Tulung Selapan, Kab. OKI diatas tanah hibah seluas 1.875 m2 serta Berdasarkan Surat Keputusan Kepala kantor Wilayah Departemen Agama Provinsi Sumatera Selatan Nomor : KPTS/WF/6-C/PP.032/043/1994 tanggal 01 Agustus 1994 tentang Pendirian Madrasah Swasta Di Lingkungan Kantor Wilayah Departemen Agama Provinsi Sumatera Selatan dengan Nomor Statistik Madarasah (NSM) 21160207063 dan Nomor Piagam Pendirian D-304.
Perubahan yang ke-dua yaitu pada tanggal 17 Maret 1997 MTs Swasta Makarimul Akhlaq berganti nama sekaligus di Negerikan menjadi MTs Negeri Tulung Selapan yang diresmikan oleh Bpk Dr. H. Tarmizi Taher selaku Menteri Agama Republik Indonesia yang dituangkan dalam Keputusan Menteri Agama Nomor 107 Tahun 1997 tentang Pembukaan dan Penegerian Madrasah.
Berdasarkan Surat Keputusan Menteri Agama Republik Indonesia Nomor 676 Tahun 2016 tanggal 17 November 2016 tentang Perubahan Nama Madrasah Aliyah Negeri, Madrasah Tsanawiyah Negeri Dan Madrasah Ibtidaiyah Negeri di Provinsi Sumatera Selatan yang di tandatangangi oleh Bpk Drs. H. Lukman Hakim Saifuddin selaku Menteri Agama RI, akhirnya Perubahan Nomenklatur yang Ke-Tiga pun terjadi lagi, semula MTs Negeri Tulung Selapan telah resmi menjadi MTs Negeri 2 Ogan Komering Ilir.
Berikut Daftar Nama Kepala MTs Negeri 2 Ogan Komering Ilir :