İlk olarak Hz. Ömer tarafından inşa edilmiştir. Artan ihtiyaç sebebiyle Abdülmelik bin Mervan tarafından yeniden yaptırılmaya başlanmış, sonraki yıllarda yenileme ve tamirat gibi sebeplerle eklemeler yapılmıştır. Cami 1967 yılından sonra defalarca İsrail saldırılarına maruz kalmıştır.