Cami hicretin üçüncü yüzyılında küçük alanlı ve sade yapılıydı. Çatısı yoktu ve altı girişi vardı. El-Ezraki (ö. 864) Ahbaru Mekke adlı kitabında cami ile ilgili şu bilgileri vermektedir: “Kare planlı mescidin etrafı kapalı üstü açıktır. Mescidin içinde hiç bir gölgelik yoktur. Altı kapısı vardır; biri kıblede ikisi sağ duvarda ikisi sol duvarda ve biri de mescidin arkasındadır”.
Cami zamanla bakımsız kaldı ve Sultan Çakmak tarafından hicri 842 (1438) yılında tamir edilene kadar camiden geriye sadece batı tarafında kıbleyi gösteren bir duvar kalmıştı. Memlük Sultanı Kayıtbay tarafından 874 (1469) yılında yeniden tamir edildi. Daha sonra Osmanlılar 1661’de mescidi tamir etti. En son 1974’te Suudi Arabistan tarafından beş milyon riyalle restore edildi ve genişletildi. Alanı beş bin kırk metrekareye ulaştı ve on iki bin ibadet edeni ağırlayabilecek kapasiteye sahip oldu.