visitcentraljava.com masjid ini didirikan pertama kali pada pertengahan abad XVI masehi atau pada masa kesultanan Demak. Alkisah seorang dari kesultanan Demak bernama Made Pandan, seorang maulana dari Arab yang nama aslinya Maulana Ibnu Abdul Salam mendapat perintah dari Sunan Kalijaga untuk menggantikan kedudukan Syekh Siti Jenar yang ajarannya dianggap menyimpang. Bersama putranya, Made Pandan meninggalkan Demak menuju ke daerah barat di suatu tempat yang kemudian bernama Pulau Tirangan dan membuka hutan dan menyiarkan agama Islam
Masjid ini nenjadi satu-satunya masjid di Indonesia yang mengumumkan kemerdekaan bangsa Indonesia secara terbuka hanya beberapa saaat setelah diproklamirkan. Seperti diketahui peristiwa proklamasi yang dibacakan Ir. Soekarno dan Drs. Moh. Hatta di Pegangsaaan Timur no 56 Jakarta pada hari Jum’at pukul 10.00 pagi. Lebih kurang satu jam setelah itu yaitu pada saat sebelum sholat Jum’at, Alm. dr. Agus, salah seorang jama’ah aktif di Masjid Agung Semarang melalui mimbar Jum’at dan dihadapan jama’ah mengumumkan terjadinya proklamasi RI.
Setelah dinobatkan menjadi bupati Semarang yang pertama, Ki Ageng Pandan Arang menjadi masjid yang dibangunnya sekadar untuk tempat ibadah dan tempat mengajarkan agama saja, tetapi juga digunakan sebagai pusat kegiatan pemerintahan. Seiring dengan perkembangan waktu, daerah Mugas dianggap kurang strategis sebagai pusat pemerintahan, sehingga beliau pindah di daerah yang lebih strategis di kota Semarang bagian bawah di Bubakan. Beliau juga memindahkan Masjid Agung Semarang di daerah tersebut, tetapi lokasinya juga buka di tempatnya sekarang. Lokasi di mana masjid ini belum dapat dipastikan. Peta kuno Semarang yang tersimpan di Rijks Archief di Belanda menggambarkan bahwa waktu itu Masjid Agung Semarang terletak di seblah timur laut dari kabupaten Semarang yaitu di sekitae daerah Pedamaran
