Tahun demi tahun setelah melihat perkembangan dari madrasah ibtidaiyah dan Roudlotul Athfal Al Huda semakin baik, didorong oleh tidak sampai hati melihat anak tamatan sekolah dasar (SD) maupun madrasah Ibtidaiyah (MI) yang drop out, yang tidak melanjutkan sekolah kejenjang yang lebih tinggi dengan alasan karena orang tuanya tidak mampu membiayai putra putrinya sekolah, maka pengurus lembaga pendidikan Islam Al huda tergugah mendengar jeritan masyarakat yang demikian, serta ingat bahwa pendidikan yang layak tidak hanya dirasakan oleh masyarakat yang ekonominya kuat dan mampu.

Pengurus dengan tekad yang membara segera mengumpulkan pemuka-pemuka sekecamatan Kedu guna memecahkan masalah yang dirasakan, untuk mengatasi lulusan bagi tamatan SD dan MI dari putra putri muslim yang ekonominya lemah. Niat yang ikhlas serta dorongan dari muslimin sekecamatan Kedu pada tanggal 1 januario 1970 dibukalah Madrasah Tsanawiyah yang juga bernama Al huda berlokasi di dusun Kerokan desa Kutoanyar kec. Kedu, walaupun pada saat berdirinya masih menumpang di rumah penduduk dengan fasilitas yang sangat minim.

Pengurus tidak bosan bosanya mengurusi kelancaran kegiatan belajar mengajar di madrasah sambil mengajak petani tembakau untuk ikut berpartisipasi memberikan sedekah jariyah guna berdirinya sebuah gedung untuk tempat para putra putri muslim yang berekonomi lemah menuntut ilmu kejenjang pendidikan yang lebih layak.  Dengan ajakan pengurus yang demikian gigih, masyarakat dusun Kerokan bersedia memberikan sehelai daun tembaku didusun kerokan, dengan ridlo Allahh SWT, pada tahun 1973 berdirilah gedung Madrasah Tsanawiyah Al-Huda yang dibangun di tanah wakaf bapak H. Zaenuri seluas 1344 M²  dengan sarana prasarana yang memadai ditinjau dari segi aturan dan peraturan bagi penyelenggaraan pendidikan yang berlaku.

Untuk mengatasi keinginan siswa siswi tamatan Madrasah Tsanawiyah Al-Huda serta dorongan dari sebagian besar wali murid yang putra putrinya telah tamat dari Madrasah Tsanawiyah maupun SMP, dengan alasan antara lain :

• Lokasi terlalu jauh sehingga memakan biaya transport yang cukup banyak
• Wali murid yang kurang mampu membiayai putra putrinya karena kondisi ekonomi.

Maka pengurus dengan tekad yang kuat dan upaya yang maksimal, pada tanggal 31 Mei 1983 berhasil mendirikan Madrasah Aliyah Al-Huda Kedu dengan alasan tersebut untuk menampung tamatan Madrasah Tsanawiyah maupun tamanatan SMP di desa Kutoanyar dan sekitarnya, dengan niat menciptakan generasi penerus yang berpendidikan bertaqwa, berbudi pekerti luhur serta cerdas dan trampil.

Guna menunjang keberhasilan pembangunan manusia seutuhnya, lahir dan batin sebagaimana yang diamanatkan oleh ajaran agama islam maupun amanat Undang-undang Dasar Negara Republik Indonesia 1945.