Yaman adalah negara di Jazirah Arab di Asia Barat Daya, bagian dari Timur Tengah. Orang-orang keturunan Arab di Indonesia sebagian besarnya berasal dari negara ini.
Dari Ibnu Abbas berkata: Nabi صلى الله عليه وسلم ketika berada di Madinah berkata, "Allahu Akbar, Allahu Akbar, telah datang bantuan Allah dan kemenangannya dan telah datang ahlu Yaman." Para sahabat bertanya: Siapakah ahlu Yaman itu Ya Rasulullah? Rasulullah bersabda: "Suatu kaum yang suci hatinya dan lembut perangainya.
Iman ada pada ahlu Yaman, kepahaman (fiqih) ada pada ahlu Yaman dan hikmah ada pada ahli Yaman." (HR Ahmad)
Al-Hafidz Ibnu Hajar al-Asqalani telah meriwayatkan suatu hadits dalam kitabnya berjudul Fath al-Bari, dari Jabir bin Math’am dari Rasulullah صلى الله عليه وسلم berkata, "Wahai ahlu Yaman, kamu mempunyai derajat yang tinggi. Mereka seperti awan dan merekalah sebaik-baiknya manusia di muka bumi."
Dalam Jami’ al-Kabir, Imam al-Suyuthi meriwayatkan hadits dari Salmah bin Nufail, "Sesungguhnya aku menemukan nafas al-Rahman dari sini". Dengan isyarat yang menunjuk ke negeri Yaman.
Masih dalam Jami’ al-Kabir, Imam al-Sayuthi meriwayatkan hadits marfu’ dari Amru ibnu Usbah , berkata Rasulullah صلى الله عليه وسلم: "Sebaik-baiknya lelaki, lelaki ahlu Yaman".
Faktor lain yang menjadi pertimbangan Imam Al-Muhajir hijrah ke Yaman dikarenakan masyarakat Yaman mempunyai hati yang suci dan tabiat yang lembut serta bumi yang penuh dengan keberkahan, sehingga Rasulullah memerintahkan hijrah ke negeri Yaman jika telah terjadi fitnah.
Diriwayatkan dari Ibnu Abi al-Shoif dalam Kitab Fadhoil Al-Yaman, dari Abu Dzar al-Ghifari, Nabi صلى الله عليه وسلم bersabda: "Kalau terjadi fitnah pergilah kamu ke negeri Yaman karena disana banyak terdapat keberkahan".