Kılıçdede Hazretlerinin Malazgirt Savaşı sonrası Anadolu’nun Türkleştirilmesi döneminde vuku bulan Selçuklu Savaşlarında Şehit düştüğü ve buraya defnedildiği rivayet edilir. Kılıçdede ismini o zamanlar savaşlarda kılıç kullanılmasından ötürü aldığı sanılmaktadır. 

Türbenin, Camiinin inşaatından çok önce mevcut olduğu bilinmektedir.

Kaynak: http://wikimapia.org/11304995/tr/K%C4%B1l%C4%B1%C3%A7dede-Camii-ve-T%C3%BCrbesi