Kyai Muhajirin tidak pernah mengenyam pendidikan formal, beliau hanya mengaji dari mu’alim ke mu’alim yang lain. Di antara pesantren yang pernah dia singgahi sebelum melanjutkan ke Makkah dan Madinah adalah:
- Pesantren di Mester (Jati Negara, 1939-1946)
- Pesantren di Jawa Barat (1942)
- Pesantren di Jakarta Kota (1942-1945)
- Pengajian bulanan di Buntet, Cirebon (1942-1945).