Serçeoğlu Türbesi veya Serçeönü Kümbeti muhtemelen 12. veya 13. yüzyılda inşa edildiği düşünülmektedir. Gevher Nesibe Şifahanesi’nin kuzeydoğusunda, İstasyon Caddesi’ne bitişik olan batı kesimde yer aldığı, Albert Gabriel’in yaklaşık 1927 yılında çizdiği haritadan anlaşılmaktadır. Albert Gabriel tarafından çekilen ve söz konusu yapıyı belgeleyen fotoğrafın altına, türbe “anonim bir türbenin harabeleri” şeklinde kaydedilmiştir. Ancak bu fotoğrafın kartpostal olarak basılmış bir nüshasının, Türk Tarih Kurumu arşivinde bulunan örneğinin arka yüzünde yer alan “Serçeoğlu Türbesi – yıktırılmıştır” ibaresi sayesinde yapının adı tespit edilebilmiştir.
Türbenin sanatsal ve mimari özellikleri dikkate alındığında, yapının Anadolu Selçuklu veya Eretna dönemine tarihlenmesi kuvvetle muhtemeldir. Bununla birlikte, konumu göz önünde bulundurulduğunda, bir Anadolu Selçuklu eseri olma ihtimali daha ağır basmaktadır. Mevcut yazılı kaynaklarda Serçeoğlu Türbesi’ne ilişkin ayrıntılı bilgilere rastlanmamaktadır. Türbenin adı da büyük olasılıkla özgün ismi değildir ve bulunduğu mahalleye nispetle sonradan verilmiştir. Söz konusu mahalle ise adını Serçeoğlu Hacı Ali Efendi tarafından inşa ettirilen Serçeoğlu Camii’nden almaktadır. Bu nedenle türbede kimin medfun olduğu bilinmemektedir.
Heinrich Barth, Andreas David Mordtmann ile birlikte gerçekleştirdiği 1858 sonbahar seyahati sırasında, 28–29 Kasım 1858 tarihlerinde Erkilet üzerinden Kayseri’ye gelmiştir. Heinrich Barth, seyahatnamesinde kent girişinde Hacı Kılıç Camii ve Medresesi’nden söz ettikten sonra, yol arkadaşı Mordtmann’ın Hicrî 626 (Miladi 1228–1229) tarihli bir Anadolu Selçuklu türbesi gördüğünü aktarmaktadır. Kayseri’de günümüzde bu tarihle ilişkilendirilen başka bir türbe bilinmemesi ve Serçeoğlu Türbesi’nin söz konusu güzergâh üzerinde yer alması nedeniyle, Mordtmann’ın gördüğü yapının Serçeoğlu Türbesi olması muhtemeldir.
Serçeoğlu Türbesi, 1934 yılında İstasyon Caddesi’nin genişletilmesine yönelik yürütülen yol çalışmaları sırasında yıktırılmış olması olasıdır.