Masjid Jami’ Peneleh luasnya 950 m² berlokasi di Peneleh Gang V, berdasarkan cerita tutur menyebutkan bahwa masjid tersebut dibangun oleh Raden Rahmat (Sunan Ampel) pada 1421 M. Awalnya, memang berupa langgar kecil yang akhirnya dipugar menjadi masjid. Sejak abad ke-18, langgar itu menjadi masjid seperti saat ini. Sejak itu warga menyebutnya sebagai Masjid Jami’ di Peneleh.

Adapun sedikit informasi ataupun referensi mengenai Masjid Jami’ Peneleh yang sangat kurang, namun masyarakat setempat mempercayai bahwa Masjid Jami’ Peneleh dibangun oleh Sunan Ampel pada tahun 1421, lebih tua dari Masjid Ampel. Keyakinan itu diperkuat dalam isi buku ensiklopedia Indonesia disusun oleh Prof. Dr. MR TGS Mulia dan Prof. Dr. KAH Hadding, disebutkan bahwa Al Rahmatullah (Sunan Ampel) berpindah dari kampung Kembang Kuning ke Peneleh. Selanjutnya beliau mendirikan masjid yang lebih besar dari musala tiban Kembang Kuning. Diperkirakan, Rahmatullah mendirikan masjid di Kembang Kuning bersama Nyai Karimah.