Sekolah Menengah Kebangsaan Abdul Rahim II (AR2) Kudat dibuka pada 12 June 2006 dengan menyediakan asrama sebagai kemudahan murid yang bersekolah di AR2. Asrama ini amat penting untuk meringkan beban murid berulang-alik dari rumah ke sekolah. Asrama SMK Abdul Rahim II atau dahulunya dikenali Asrama SEMERAH berlokasi di hadapan Sekolah Kebangsaan Pekan Kudat, Jalan masuk Pei Tsin di bawah Pejabat Polis Daerah Kudat. Jarak asrama ke sekolah adalah lebih kurang dalam 210m mengambil masa 3 minit untuk sampai ke sekolah. 

Asrama AR2 terbahagi kepada dua iaitu Asrama Puteri (ASPURI) dan Asrama Putera (ASPURA) yang boleh menanpung lebih kurang dalam 200 murid. Asrama ini menyediakan dorm yang dilengkapi dengan prasarana seperti katil, tilam dan almari. Keperluan murid menjadi keutamaan asrama AR2 dengan menyediakan bilik-bilik khas seperti bilik belajar, bilik sakit, bilik gerakan pengawas dan stor sukan yang boleh digunakan. Strategi meletakkan dewan makan di tengah-tengah Aspuri dan Aspura yang mudah digapai juga merupakan kemudahan yang disediakan. Tiga gelanggang badminton, surau, padang sekolah yang berhadapan dengan asrama memudahkan murid melakukan aktiviti sukan dan rekreasi. 

Asrama SMK Abdul Rahim II  merupakan sebuah asrama sekolah menengah yang strategik, menampung pelajar pelbagai etnik dengan pelbagai kemudahan. Asrama ini juga aktif dalam meningkatkan pencapaian akademik dan kokurikulum untuk melahirkan pelajar yang cemerlang.