Mu'assis Thariqah Rifa'iyah adalah Wali Agung Sayyid Ahmad Ar’Rifa'i radhli’allahu ’anhu (512 - 578 H). Beliau telah meletakkan dasar-dasar yang kuat dan prinsip-prinsip yang lurus untuk thariqah yang mubarokah, yaitu ajakan untuk beriman dan mengikuti Kitab Allah dan Sunnah RasulNya, menjaga rukun-rukun Islam, berpegang pada keutamaan-keutamaan dan manjauhi hal-hal yang hina (sifat dan perilaku yang nista).
Sayyidi Ahmad Al Rifa’i dilahirkan pada tahun 500 Hijriah. Pertama kali beliau belajar Ilmu Fiqih Mazhab Syafi’i dengan mempelajari Kitab Al-Tanbih, akan tetapi beliau lebih cenderung kepada ilmu tasawuf. Beliau terkenal sebagi rujukan pimpinan ilmu thoriqoh, karena memiliki ilmu haqiqat yang tinggi dan sebagai wali qutub yang agung dan masyhur di zaman sesudah syeikh Abdul Qodir al Jailany ra. Beliau sangat terkenal dan memiliki pengikut yang banyak. Para pengikutnya terkenal dengan sebutan “Al-Thoifah Al-Rifa’iyah”.
Dalam kitab Thobaqot diterangkan, pada saat mengajar syeikh Ahmad Rifa’i tidak mau sambil berdiri. Orang-orang yang tinggalnya jauh bisa mendengar apa yang disampaikan beliau sama seperti orang yang dekat dengan tempat pengajian. Sehingga penduduk disekitar desa Ummi Abidah banyak yang keluar dari rumahnya untuk mendengarkan apa yang disampaikan oleh syeikh Ahmad Rifa’i ini. Bahkan orang yang tadinya tuli jika mau hadir mengaji oleh Allah, dibukakan pendengarannya sehingga bisa mendengar apa yang disabdakan oleh syeikh Ahmad Rifa’i. Para guru thoriqoh banyak yang hadir untuk mendengarkan sabda-sabda dari Syeikh Ahmad Al Rifa’i dengan menggelar sajadah sebagai tempat duduk. Setelah syeikh Ahmad selesai memberi pelajaran, mereka pulang sambil menempelkan sajadah kedadanya masing-masing, sehingga sesampai di rumah mereka bisa menjelaskan kepada para muridnya.
Banyak hal aneh yang sering terjadi pada diri murid Syeikh Ahmad Rifa’i seperti, mereka dapat masuk ke dalam api yang sedang menyala. Mereka juga dapat menjinakkan binatang buas, seperti harimau di mana hewan ini akan menuruti apa yang mereka katakan. Sehingga harimau ini dapat dijadikan kendaraan oleh mereka. Banyak lagi keajaiban-keajaiban lain yang ada pada mereka.
Ketika pertama kali Sayyidi Ahmad bertemu dengan seorang Wali bernama Syeikh Abdul Malik Al-Khonubi. Syeikh ini memberinya pelajaran berupa sindiran tetapi sangat berkesan buat Syeikh Ahmad Al Rifa’i. Sindiran itu berbunyi ; Orang yang berpaling dia tiada sampai. Orang yang ragu-ragu tidak dapat kemenangan. Barangsiapa tidak mengetahui waktunya kurang, maka semua waktunya telah kurang. Setahun lamanya Sayyidi Ahmad Al-Rifa’i mengulang-ulang perkataan ini.
Setelah setahun dia datang kembali menemui Syeikh Abdul Malik Al-Khonubi. Sayyidi Ahmad Al-Rifa’i minta wasiat lagi, maka berkata Syeikh Abdul Malik; Sangatlah keji kejahilan bagi orang-orang yang mempunyai Akal; Sangatlah keji penyakit pada sisi semua doktor; Sangatlah keji sekalian kekasih yang meninggalkan Wusul (sampai kepada Allah). Sayyidi Ahmad Al-Rifa’i mengulang-ulang pula perkatan itu selama setahun dan beliau banyak mendapat manfaat dari perkataan itu karena perkataan itu diresapi, dihayati dan diamalkan.
Salah satu dari sekian budi pekerti Syeikh Ahmad Al Rifa’i yang mulia ialah beliau seringkali membawa serta membersihkan pakaian orang-orang yang berpenyakit kusta dan beberapa penyakit yang sangat menjijikkan menurut pandangan umum. Dipeliharanya orang-orang yang sedang sakit itu; diantarkan makanan untuk mereka dan beliau juga turut makan bersama-sama dengan orang-orang sakit itu tanpa ada rasa jijik.
Kalau Syeikh Ahmad Al Rifa’i datang dari perjalanan, apabila telah dekat dengan kampung halamannya maka dipungutnya kayu bakar, setelah itu dibagi-bagikan kepada orang-orang sakit, orang buta, orang-orang jompo atau orang tua yang membutuhkan pertolongan. Syeikh Ahmad berkata : “Mendatangi orang-orang yang semacam itu bagi kita wajib bukan hanya sunah. Bahkan Nabi bersabda : “Barang siapa yang memuliakan orang tua yang Islam, maka Allah akan meluluhkan orang untuk memuliakannya apabila ia sudah tua”.
Beliau setiap dijalan selalu menanti datangnya orang buta, kalau ada orang buta datang lalu dipegang dan dituntun sampai tujuan. Beliau mempunyai kasih sayang bukan hanya kepada manusia saja, tetapi juga kepada binatang, sehingga kalau bertemu dengan siapa saja selalu mendahului memberi salam, bahkan juga kepada hewan. Diriwayatkan bahwa ada seekor anjing yang menderita sakit kusta. Kemana saja anjing itu pergi, ia akan diusir. Anjing tersebut diambil oleh Sayyidi Ahmad Al-Rifa’i lalu dimandikan dengan air panas, diberikan obat dan makan secukupnya, sampai anjing tersebut sembuh dari penyakit yang dideritanya. Kalau ada orang yang bertanya tentang apa yang diperbuatnya beliau berkata : “Aku selalu membiasakan pekerjaan yang baik. Syeikh Ahmad ini kalau dihinggapi nyamuk beliau membiarkannya dan tidak boleh ada orang lain yang mengusirnya. Beliau berkata, “Biarkanlah dia meminum darah yang dibagikan Allah kepadanya. Pada suatu hari ada seekor kucing sedang nyenyak tidur di atas lengan bajunya. Waktu sholat telah masuk, lalu digunting lengan bajunya itu karena tidak sampai hati mengejutkan kucing yang sedang lelap tidur itu. Seusai sholat lengan bajunya diambil dan dijait lagi.
Budi pekerti mulia yang lain ialah beliau tidak mau membalas kejahatan dengan kejahatan. Apabila beliau dimaki oleh orang, beliau terus menundukkan kepalanya mencium bumi dan menangis serta meminta maaf kepada yang memakinya. Beliau pernah dikirimi surat oleh Syeikh Ibrohim al Basity yang isi suratnya merendahkan martabat beliau, lalu beliau berkata kepada orang yang menyampaikan surat itu : “Coba bacalah surat itu, dan ternyata isinya adalah : “Hai orang yang buta sebelah, hai dajjal, hai orang yang bikin bid’ah dan berbagai macam perkataan yang menyakitkan hati. Setelah selesai membaca surat kemudian surat itu diterima oleh syeikh Ahmad, dibaca kemudian berkata : “Ini semua betul, smoga Allah membalas kebaikan kepadanya. Beliau terus berkata dengan syiir, “Maka tidaklah aku peduli kepada orang yang meragukan aku yang penting menurut Allah, aku bukanlah orang yang meragukan. Kemudian syeikh berkata : “Tulislah sekarang jawaban balasanku yang berbunyi “Dari orang rendahan kepada tuanku syeikh Ibrohim. Mengenai tulisanmu seperti yang tertera dalam surat, memang Allah telah menjadikan aku menurut apa yang dikehendaki-Nya dan aku mengharapkanmu hendaknya sudi bersedekah kepadaku dengan mendo’akan dan memaafkanku. Setelah surat balasan ini sampai pada syeikh Ibrohim dan dibaca isinya, kemudian syeikh Ibrohim pergi entah kemana tidak ada orang yang tahu.
Jika ada orang minta dituliskan azimat kepadanya, maka Syeikh Ahmad mengambil kertas lalu ditulis tanpa pena. Sewaktu beliau pergi Haji, ketika berziarah ke Maqam Nabi Muhammad Saw, maka nampak tangan dari dalam kubur Nabi bersalaman dengan beliau dan beliau pun terus mencium tangan Nabi SAW yang mulia itu. Kejadian itu dapat disaksikan oleh orang ramai yang juga berziarah ke Maqam Nabi Saw tersebut. Salah seorang muridnya berkata ; “Ya Sayyidi! Tuan Guru adalah Qutub”. Jawabnya; “Sucikan olehmu syak mu daripada Qutubiyah”. Kata murid: “Tuan Guru adalah Ghauts!”. Jawabnya: “Sucikan syakmu daripada Ghautsiyah”. Al-Imam Sya’roni mengatakan bahwa yang demikian itu adalah dalil bahwa Sayyidi Ahmad Al-Rifa’i telah melampaui “Maqaamat” dan “Athwar” karena Qutub dan Ghauts itu adalah Maqam yang maklum (diketahui umum).
Sebelum wafat beliau telah menceritakan kapan waktunya akan meninggal dan sifat-sifat hal ihwalnya beliau. Beliau akan menjalani sakit yang sangat parah untuk menangung bilahinya para makhluk. Sabdanya, “Aku telah di janji oleh Allah, agar nyawaku tidak melewati semua dagingku (daging harus musnah terlebih dahulu). Ketika Sayyidi Ahmad Al-Rifa’i sakit yang mengakibatkan kewafatannya, beliau berkata, “Sisa umurku akan kugunakan untuk menanggung bilahi agungnya para makhluk. Kemudian beliau menggosok-ngosokkan wajah dan uban rambut beliau dengan debu sambil menangis dan beristighfar . Yang dideritai oleh Sayyidi Ahmad Al-Rifa’i ialah sakit “Muntah Berak”. Setiap hari tak terhitung banyaknya kotoran yang keluar dari dalam perutnya. Sakit itu dialaminya selama sebulan. Hingga ada yang tanya, “Kok, bisa sampai begitu banyaknya yang keluar, dari mana yaa kanjeng syeikh. Padahal sudah dua puluh hari tuan tidak makan dan minum. Beliau menjawab, “Karena ini semua dagingku telah habis, tinggal otakku, dan pada hari ini nanti juga akan keluar dan besok aku akan menghadap Sang Maha Kuasa. Setelah itu ketika wafatnya, keluarlah benda yang putih kira-kira dua tiga kali terus berhenti dan tidak ada lagi yang keluar dari perutnya. Demikian mulia dan besarnya pengorbanan Aulia Allah ini sehingga sanggup menderita sakit menanggung bala’ yang sepatutnya tersebar ke atas manusia lain. Wafatlah Wali Allah yang berbudi pekerti yang halus lagi mulia ini pada hari Kamis waktu duhur 12 Jumadil Awal tahun 570 Hijrah. Riwayat yang lain mengatakan tahun 578 Hijrah.
Diantara nasehat-nasehatnya yang terkenal adalah:
"Hendaklah kalian berdzikir pada Allah, karena dzikrullah itu adalah magnet-magnet penghubung dan tali untuk mendekat. Barang siapa yang dzikir pada Allah maka akan merasa nyaman dengan Allah dan akan sampai kepadaNya."
"Tashawuf adalah berpaling dari selain Allah, tidak sibuk berpikir tentang Dzat Allah dan berserah diri kepada Allah."