Taşhan Küçük Cami ne zaman inşa edildiği kesin olarak bilinmemekle birlikte, 20. yüzyılın başlarında varlığından söz edilmektedir. Caminin minaresi ise 1955 yılında eklenmiştir. Mimari açıdan bakıldığında, cami eski Taşhan Köyü’nün batısındaki tüflü kayalığa oyulmuş dikdörtgen planlı bir mekândan oluşur. Doğu-batı doğrultusunda uzanan yapı, beşik tonoz örtüyle tamamlanmaya çalışılmıştır. Caminin doğu cephesinde duvar örgüsü dikkati çekerken, bu yönde ayrıca sonradan eklenmiş avlu niteliğinde bir giriş mekânı yer almaktadır. Bu mekândan harime düz lentolu bir kapı aracılığıyla girilmektedir. İç mekânın güney cephesinin ortasında bulunan mihrap nişi dikdörtgen boyutlu ve yarım daire kesitlidir. Niş yüzeyi taş kabartmalar ve boya ile zengin biçimde süslenmiştir. Mihrap plastırlarında kabartma olarak işlenmiş hasır örgüler ve beş yapraklı rozetler görülür. Köşeliklerde çeyrek daire içine yerleştirilmiş üçlü yaprak motifleri bulunur. Mihrap nişi kırmızı boyalı perde motifiyle bezenmiştir.

Mihrap nişinin iki yanında duvara oyulmuş ikişer niş daha yer almakta, yuvarlak kemerlerle örtülen bu bölümlerde kabartma bitkisel süslemeler dikkati çekmektedir. Benzer düzenleme kuzey duvarında da tekrarlanır. Harimin batısında ise yekpare kayadan oyulmuş minber yer alır. Minberin yan yüzeylerinde hasır örgü kabartmalar görülür. Kapısının çokgen söveleri tavana kadar yükseltilmiştir. Doğu cephesine açılan kapı ve pencere iç mekânın aydınlatılmasını sağlamaktadır. Üst örtünün ortasında, yüzeyden hafifçe çökertilerek yapılmış bir alan içine kubbe motifi işlenmiş, yanlara ise yüzeyden taşkın yarım kubbe biçimli kabartmalar eklenmiştir.

Yapının en dikkat çekici unsurlarından biri minaresidir. Caminin yaklaşık 4–5 metre uzağında, iki kütleli bir düzenleme ile inşa edilmiştir. Silindirik gövde üzerine oturtulan köşk minareye, kemerli bir köprü aracılığıyla ulaşılır. Köprüye çıkışı taş basamaklı merdivenler sağlar. Bu özellik, Kayseri’de nadir görülen bir uygulamadır.

Süslemeler bakımından cami, özellikle kayaya oyulmuş mihrap ve minberinde yoğunlaşır. Hasır örgü ve rozet motifli kabartmaların yanı sıra, kırmızı boyalı perde motifleri ile bitkisel bezemeler görülür. Malzeme olarak cami tüflü kayaya oyulmuş, minaresinde ise düzgün kesme taş kullanılmıştır.