Bermula ketika Jenderal M. Jusuf menunaikan Ibadah haji tahun 1984.tiba-tiba beliau mendapat ilham untuk membangun sebuah Masjid besar dan megah di kota Makassar (waktu itu masih bernama Ujung Pandang). Sebagian dari ilhamnya muncul ketika melihat masjidil haram di mekkah dan Masjid nabawi di madinah.

Ide untuk membangun sebuah masjid besar di Makassar makin mengkristal. Setiap bertemu dengan orang-orang yang berasal dari Sulawesi Selatan antara lain Jusuf Kalla, Tanri Abeng serta Ulama kenamaan Nurcholis Madjid. Mereka mulai mendiskusikan pendirian masjid besar tersebut.

M. Jusuf merasa lebih comfortable menceritakan keinginannya itu setelah berhenti jadi ketua Bepeka. Jusuf takut bertindak ketika menduduki suatu jabatan karena kemungkinan conflict of interestantara jabatan yang diemban dengan tujuan sosial yang ingin ia lakukan.

Pada tahun awal tahun 1990 kampus Unhas Baraya di pindahkan ke Tamalanrea, secara kebetulan areal seluas 10 hektar di baraya kosong, maka ide Jusuf untuk membangun masjid besar itu akan segera terwujud.

Pada bulan puasa tepatnya pada tanggal 3 maret 1994. Jusuf mengundang sejumlah menteri kabinet pembagunan dan pengusaha nasional di Wisma Yani, Jl. Taman Suropati, Jakarta Pusat. Untuk memdiskusikan mengenai pembagunan masjid besar di Makassar tersebut.

Tidak sekedar omongan saja, Jusuf bertindak cepat. Banyak sekali sumbangan anonim dari sejumlah konglomerat ditampungnya dan dpirgunakan secepat mungkin.

Pada tanggal 8 Mei 1994 dilakukan pemancangan tiang pertama Masjid Al Markaz Al Islami. Arsitek yang merancang masjid Al Markaz Al Islami adalah Ir. Achmad Noe’man.

Yang membuat khasmasji ini adalah detail ornamen sebagian berasal dari wilayah Sulawesi Selatan. Napas dari Masjid Nabawi, Madinah mengilhami pembangunan menara tunggalnya yang tingginya 90 meter. Ruangan utama masjid diterangi oleh lampu-lampu kristal yang megah yang didatangkan dari Cekoslovakia.

Pada tanggal 12 Januari 1996 Masjid Al markaz Al Islami di resmikan  yang dihadiri 15 menteri dan sejumlah mantan pejabat. masjid terbesar di Makassar bahkan di kawasan Timur Indonesia ini kini berdiri megah.***

Sumber:http://aalmarusy.blogspot.com/2010/11/masjid-kebanggan-kota-makassar.html