Madrasah Ibtidaiyah Al Hidayah Rawadenok berdiri tahun 1948, kolaborasi antara Bapak H. Nipan Bin Mutan selaku pemilik tanah dengan Habib Muhammad Bin Yahya Bin Usman yang kemudian mendirikan lembaga pendidikan diberinama Al Hidayah, yang pada waktu itu dikenal dengan sebutan Sekolah Arab. Saat itu sekolah Arab (Al Hidayah Sekarang) antara siswa laki-laki dan perempuan terpisah jam belajarnya.
Pada waktu itu izin mendirikan sekolah sangat sulit karena berada dibawah penjajahan Belanda/NICA, karena Habib Muhammad Bin Yahya sangat piawai dalam berdiplomasi terlebih isteri beliau keturunan Belanda maka proses pendidirian Madrasah Al Hidayah sedikit mendapatkan kemudahan. MI Al Hidayah selalu mengikuti perkembangan dan ketentuan pemerintah termasuk dalam hal penggunaan kurikulum.
Sampai saat ini MI Al Hidayah sudah melulusankan beberapa kali angkatan. Alumni generasi awal banyak yang mendirikan lembaga pendidikan yang tersebar di Depok dan sekitarnya.