Diyarbakır Sinagogu’nun inşa tarihi konusunda farklı bilgiler bulunmaktadır. Bir kaynağa göre yapı 1840 yılında inşa edilmiştir. Başka bir kaynağa göre ise sinagog, Sör Moses Montefiore’nin 1881 yılında Diyarbakır Yahudi cemaatine yaptığı yüz sterlinlik bağış sayesinde inşa edilmiştir. Sinagog, siyah taşlı sütunlara ve narin bir kubbeye sahipti. Yapının bulunduğu çevrede birkaç metrekarelik alana sahip, içinde dört beş ailenin kadın, erkek, yaşlı ve çocuklarıyla alt alta üst üste yaşadığı toprak kulübeler ve sefil evler bulunuyordu. Sinagog, bu evlerin arasında yer almaktaydı. Yapının sinagog olarak kullanıldığına dair belirtilen işaret, evin bir odasının kapısı üzerindeki İbranice yazıttı. Bu yazıt dışında evde başka bir kanıt bulunmamaktaydı.

Haham David’in 1827 yılında aktardığı verilere göre Diyarbakır merkezde 40 Yahudi aile ve iki sinagog bulunmaktaydı. 1835 yılında Diyarbakır 8000 hanelik bir vilayetti ve bu evlerin ellisi Yahudilere aitti. 1848 yılında Diyarbakır’ı ziyaret eden Yahudi seyyah Benyamin Haşeni’ye göre şehirde ayrı bir kesimde kendi aralarında yaşayan 252 Yahudi aile vardı. Haşeni, eserinde Hz. İlyas’ın Diyarbakır’da bir dönem bulunduğunu, sinagog içinde özel bir odanın yer aldığını ve bu odanın bütün Yahudiler için kutsal kabul edildiğini belirtmiştir. Ona göre Hz. İlyas peygamberliğini bu odada ilan etmiştir. Diyarbakır şehrinin Yahudiler için Tevrat’ta geçen Kain şehri olarak kabul edildiği de rivayet edilmektedir. Aynı yıl Çermik’i ziyaret eden Haham J. J. Benjamin, burada yüz ailelik bir Yahudi cemaatinin Müslümanlarla aynı adet ve kıyafetlere sahip olarak yaşadığını görmüştür. 1938 yılında Diyarbakır’ı ziyaret eden bir rahibeye göre ailelerin din ve mezheplere göre dağılımı 1500 Müslüman, 500 Ermeni, 300 Yakubi yani Süryani, 150 Ermeni Katolik, yaklaşık 100 Keldani, 50 Yahudi, 25 Suriyeli Katolik ve 20 Rum aile şeklindeydi. Seyyah Haham Peterman 1853 yılında Diyarbakır’a geldiğinde altmış Yahudi aile ve eski bir sinagog bulmuştur. 1888 yılında Diyarbakır’da 450 Yahudi, 1893 yılında ise 100 aile yaşıyordu.

Alyans Teşkilatının haber bültenlerinde Diyarbakır Yahudileri ile ilgili haberlerin genellikle cemaatin maruz kaldığı haksızlıklar için Alyans’ın İstanbul’da bulunan yerel merkez heyeti vasıtasıyla Paris’te bulunan Alyans genel merkezinden Osmanlı mercileri nezdinde müdahalede bulunulması için yapılmış talepler olduğu belirtilmiştir. Alyans 1860 yılında kurulmuş olduğundan bu tür haberler bu tarihten sonra görülmektedir. 5 Şubat 1868 tarihli toplantıda İstanbul Merkez Heyetinin Diyarbakır ve Erbil cemaatlerinin şikâyetleri konusunda Osmanlı hükümeti nezdinde girişimlerde bulunduğu aktarılmıştır.

1912 yılının başında on beş ay boyunca Diyarbakır’da Fransızca ve tarih dersleri vermiş bulunan Mösyö Nassi, Diyarbakır şehrine ve Yahudilerine ilişkin bir tasvir yapmıştır. Buna göre Yahudiler, birkaç metrekarelik bir alana sahip, içinde dört beş ailenin kadın, erkek, yaşlı ve çocuğuyla alt alta üst üste yaşadığı toprak kulübelerde ve sefil evlerde yaşıyorlardı. Bu evlerin arasında, o mimariye ve ortama tezat teşkil eden siyah taşlı sütunlara ve narin kubbeye sahip Sör Moses Montefiore Sinagogu bulunuyordu. Sinagog, Sör Moses Montefiore’nin 1881 yılında cemaate yapmış olduğu yüz sterlin bağış sayesinde inşa edilmiştir. Moses Montefiore bu bağışı İbranice kaleme alınmış bir mektup ekinde yollamıştı. Cemaat de kendisine karşı duyduğu şükran hissinin bir ifadesi olarak bu mektubu ceylan derisi üzerine yazılmış eski bir dini metin ile birlikte saklamıştı. Sör Montefiore mektubunda Diyarbakır Yahudilerinin kendisine ya bütün bölgeyi kasıp kavurmuş bir açlık veya muhtemel bir salgın hastalık nedeniyle yollamış oldukları bir telgrafı aldığını teyit ediyordu. Yahudilere ait olan bu sinagog zamanında sahiplenilmemiştir. Gavur Mahallesi’nde yaşayan halkın sinagogun yeri ve ne olduğu konusunda bilgisi olmamasına rağmen yapı bulunmaktaydı. Sinagog Hasırlı Mahallesi Bahçecik Sokak’taydı. 1948’de İsrail Devleti’nin kurulması ve Yahudilerin tamamen Diyarbakır’dan göç etmesiyle beraber yöre halkı yapıyı ev olarak kullanmaya başlamıştır. Sinagoga yakın oturan yöre halkının anlattığına göre sinagog 1960’lı yıllarda yıkılıp ev olarak inşa edilmiş ve 2000 yılına kadar İstanbul’a göç eden bir aile tarafından ev olarak kullanılmıştır. Daha sonra harabe şeklinde kalmış ve birkaç duvarı ayakta durmuştur. Sinagog olarak kullanıldığına dair işaret, evin bir odasının kapısı üzerindeki İbranice yazıttı. Bu yazıt dışında evde hiçbir kanıt bulunmamaktaydı. 2015-2016 Sur çatışmaları sırasında muhtemelen bu son kalıntılar da yok olmuştur.

Diyarbakır Yahudilerinin biri Urfakapısı’nda, diğeri Dağkapı’da olmak üzere iki mezarlığı mevcuttu. 1943 yılında bu mezarlıklar artık kullanılmamakta olup definler 1934–1935 yılından beri Yenikapı mevkiindeki mezarlıkta yapılıyordu.