Masjid Agung Jawa Tengah Semarang ini dibangun pada hari Jumat, 6 September 2002 yang ditandai dengan pemasangan tiang pancang perdana yang dilakukan Menteri Agama Ri, Prof. Dr. H. Said Agil Husen al-Munawar, KH. MA Sahal Mahfudz dan Gubernur Jawa Tengah, H. Mardiyanto, akhirnya Masjid Agung Jawa Tengah Ini diresmikan oleh Presiden Indonesia Susilo Bambang Yudhoyono pada tanggal 14 November 2006.