Sejarah Panjang berdirinya Desa Grudo terpusat di Dusun Ngronggi dan tidak lepas dari Masjid Baitul Rohman. Masjid tersebut sebenarnya sudah banyak di ketahui masyarakat dari pemberitaan di media. Dari media cetak, online dan bahkan sering menjadi bahasan dalam berbagai seminar ataupun kajian akademis. Hal itu sebagai pembuktian bahwa Masjid Baiturrahman memiliki sejarah panjang bernilai tinggi sebagai warisan budaya dan sejarah masuknya agama Islam di  Kabupaten Ngawi umumnya dan Desa Grudo khususnya.

Dari data maupun bukti – bukti otentik sejarah berdirinya masjid Baiturrahman masih perlu dukungan, namun berdasar kisah yang di ceritakan secara turun – temurun dari pelaku maupun saksi sejarah melalui generasinya,  masih bisa dirunut untuk dikronologikan.

Kepastian  sejarah berdirinya masjid Baiturrahman Ngronggi sebagai masjid  tertua di Kabupaten Ngawi memang belum bisa dibuktikan secara yuridis.  Namun bila menilik sejarah yang di sampaikan berbagai nara sumber memang cukup membuktikan bahwa Baiturrahman adalah salah satu masjid tertua yang ada di Kabupaten Ngawi.

Didirikan oleh Kyai H. Nguzair pada tahun 1875, kondisi Masjid Baiturrahman  amat sederhana dengan ukuran 8 x10 meter dengan dinding dari gedek/sesek bambu yang  beratapkan  dari sirap. Posisinya sendiri berada di atas lahan pribadi  Kyai H. Nguzair, yang lokasinya  di Jalan Harjono RT 01/02 Dusun  Ngronggi, Desa Grudo, Kecamatan  Ngawi, Kabupaten Ngawi, Jawa Timur. Dari pendirian masjid tersebut Kyai H. Nguzair mempunyai makdsud dan tujuan untuk memberikan pemahaman  ajaran – ajaran  Islam kepada masyarakat lingkungan setempat.

Dari berjalannya waktu, keberadaan Masjid Baiturrahman menjadi pusat  syiar Agama Islam di wilayah Desa Grudo dan berkembang semakin luas ke daerah lain. Itu dibuktikan dengan cerita dari warga dari desa yang leluhurnya sebagian besar  pernah mengenyam pendidikan agama Islam di masjid Baiturrahman sepert di Desa Beran, Ngale, Tempuran dan sekitarnya.

Dari pesatnya perkembangan  pendidikan agama dan letak dari masjid yang berada di wilayah Kota Ngawi akhirnya diputuskan oleh Pengulu Kota Ngawi sebagai tempat kantor urusan keagamaan. Sehingga dari keputusan tersebut  masjid  Baiturrahman Ngronggi ditunjuk sebagai tempat kantor Pengulu dan urusan-urusan Agama Islam seperti masalah pendidikan pra nikah, tempat ijab Qabul dan sekolah keagamaan untuk wilyah Ngawi.

Dalam pengelolaan masjid, kantor keagamaan dan pendidikan agama Islam yang dari waktu ke waktu terus berkembang, Kyai H. Nguzair  dibantu para putranya dan beberapa santri  senior. Diantara dari putra Kyai H. Nguzair adalah Kyai H. Abdullah, Kyai H.  Abdurrahman, serta Kyai H. Tohir. Dan kepemimpinan Kyai H. Nguzair  sendiri berakhir pada era tahun 1900-an dikarenakan tutup usia.

Dari estafet kepemimpinan  selanjutnya dikelola oleh Putranya yaitu Kyai H. Abdullah dengan  dibantu oleh Kyai H. Abdurrahman. Pada masa kepemimpinannya Kyai H.  Abdullah banyak mengalami perubahan. Tidak hanya sekedar merombak fisik,  Kyai H. Abdullah juga menambahkan ilmu pengetahuan umum dalam peningkatan pemahaman dan pengetahuan  santrinya.

Dari perombakan fisik bangunan masjid yang walnya berdinding gedek / sesek  dari bambu diganti papan Kayu jati, atap diganti dengan genteng, tiang diganti dengan  kayu Jati yang  ukuran tinggi 7 m, luas bangunan masjid menjadi 12 x 12 m, kuncungan dibuat bentuk bulat kecil lancip dan dilengkapi mimbar ukiran serta ditambah bangunan Pondok Pesantren sebagai tempat inap santri dari luar daerah.

Dalam perjalanan berdirinyan Masjid Baiturrahman Ngrongi tidak semudah yang dibayangkan. Hal itu terkait dengan masa pendudukan yang di lakukan oleh Vereenigde Oostindische Compagnie (VOC) yang membatasi siar agama dan ilmu pendidikan umum. Namun hal ini tidak menyurutkan niat dan tekad Kyai H Abdullah. Sistem  pengembangkan ajaran-ajaran Agama Islam diterapkan melalui perorangan, kelompok-kelompok kecil, maupun melalui keluarga untuk menghindarai pengawasan dari VOC.

Seiring pesatnya perkembangan dan bertambahnya santri, tahun 1912 Kyai H. Adullah memperluas  pondok pesantren yang  berlokasi di sebelah utara masjid yang sekarang lebih di kenal dengan Madrash Ibtidaiyah Ngronggi (MIN Ngronggi). Dari kepemimpinan Kyai H. Adullah banyak mengalami kemajuan hingga estafet kepemimpinan berpindah ke Kyai H. Abdurrahman dan Kyai H. Tohir sampai tahun 1930.

Setelah Kyai H. Abdurrahman dan Kyai H. Tohir wafat pengelolaan masjid dilanjutkan oleh Kyai H. Hasbullah antara tahun 1930 sampai dengan tahun 1945. Pada periode ini Kyai H. Hasbullah memfokuskan pada perbaikan serta pemeliharaan bangunan masjid yang dibiayai dengan cara Swadaya masyarakat. Di tahun 1945 masa pemerintahan syah beralih ke Republik Indonesia sehingga  syiar Agama Islam mendapat kebebasan.

Di tahun 1945 kepemipinan  Kyai H. Hasbullah diteruskan oleh Kyai H. Adnan yang dibantu Kyai H. Zaenuri.  Pada tahun 1959 Kyai H. Adnan melengkapi area masjid dengan mendirikan Madrasah. Dalam Pelaksanaanya Kyai H. Adnan menggandeng  Suroso, Kusaeri, Sudarno sebagai pengajar. Dalam kepemimpinan Kyai H. Adnan, madrasah terus mengalami kemajuan baik dari jumlah siswa maupun pengajar

Setelah wafatnya Kyai H. Adnan kemudian pengelolaan dilanjutkan oleh Kyai H. Masruh Hasbullah. Pada periode ini pengelolaan Masjid bertambah baik, dengan terbentuknya yayasan serta takmir masjid. Dari program yang di canangkan oleh Kyai H. Masruh di tujukan untuk:

• Meningkatkan syiar Agama Islam
• Meningkatkan keimanan dan ketaqwaan
• Menumbuh kembangkan kreatifitas umat Islam khususnya Generasi Muda Islam
• Sebagai pusat Informasi, Komunikasi dan Edukasi
• Sebagai tempat pertemuan/rapat
• Tempat memperingati Hari-Hari Besar Islam
• Sebagai tempat Majelis Taklim
• Tempat Kegiatan Sosial

Dari perjalanan waktu dengan perjuangan para pengurus masjid Baiturrahman mengalami kemajuan pesat. Bahkan, madrasah yang di didirikan menjadi barometer pendidikan  setingkat Sekolah Dasar di kecamatan.