Awal mula madrasah ini adalah lembaga Pendidikan Guru Agama (PGA) pada tahun 1962 yang berlokasi di Beloran, Madurejo, Prambanan, Sleman. Seiring dengan berjalannya waktu, yakni pada tahun 1978, sesuai dengan Peraturan Pendidikan, PGA dipecah atau disesuaikan dengan program pendidikan.
Sesuai dengan program pendidikan, kelas atau tingkat 1 sampai 3 menjadi Madrasah Tsanawiyah kini MTs N 8 Prambanan , bahkan tidak lama kemudian diangkat statusnya menjadi Madrasah Tsanawiyah Negeri. Kemudian kelas atau tingkat 4 sampai 6 menjadi Madrasah Aliyah Raden Fatah. Pada saat itu lokasi Madrasah Aliyah Raden Fatah sempat berpindah- pindah. Pertama, di Dusun Randusari, Bokoharjo, Prambanan. Kedua, di Pelemsari, Bokoharjo (letaknya di rumah Bapak Surat, sebelah Masjid Pelemsari). Dan pada tahun 1990, Madrasah Raden Fatah pindah ke sebelah utara Dusun Pelemsari (lokasi saat ini).
Alhamdulillah, dengan bantuan dari Kemenag dari tahun 2007 hingga 2011 dibangunlah gedung atau bangunan kelas dan kantor yang berlantai 2. Dan pada tahun 2018, Madrasah Aliyah Raden Fatah berbasis pesantren dengan nama PONDOK PESANTREN FATHUL HUDA yang berada di kompleks MA Raden Fatah Prambanan.