Kemaliye Medresesi, Anadolu Selçuklu Dönemi eseridir. 13. yüzyılın ilk yarısına ait olan medrese, Celaleddin Karatay’ın kardeşi Emir Kemaleddin Rumtaş tarafından yaptırılmıştır. Karatay Medresesi’ne ait 1253 tarihli vakfiyedeki “Allah rahmet etsin” ibaresinden, Kemaleddin Rumtaş’ın bu tarihte öldüğü ve medresenin de bu tarihten önce inşa edildiği anlaşılmaktadır.

Alâeddin Tepesi’nin kuzey eteğine yakın bir yerde bulunan yapı, Celaleddin Karatay’ın yaptırdığı Büyük Karatay Medresesinin hemen doğusunda yer almaktaydı. Sonradan açılan Ankara Caddesi sebebiyle Selçukluların erken dönemine ait bu yapı büyük oranda tahrip olmuş, neticede ancak eyvanı günümüze kısmen sağlam gelebilmiştir. Önü batı tarafa açılan, duvarı moloz taş örgülü bu eyvan, içten sırlı ve sırsız tuğla ile kaplıdır. Güney duvarına yarım silindirlik formlu bir mihrabiye oyulmuş, doğuya açılan sivri kemerli pencere ile aydınlatılması sağlanmıştır. Vakıflar Genel Müdürlüğü tarafından 1990 yılında onarılıp üstü çatı ile kapatılan eyvan, günümüzde ticari amaçla kullanılmaktadır.

Eyvanın duvarlarındaki tuğla dekorasyon çeşitli kompozisyonlarla ele alınmıştır. Sırlı ve sırsız tuğlanın beraber kullanıldığı örgü tekniğinde, düz sırlı olanlar yatay sıralarla zeminin ana malzemesini teşkil ederken; firuze sırlılar çapraz eksenlerde dikey ve kaydırmalı dizilerek geometrik desenler meydana getirirler. Kuzey ve güney cephelerde, bir merkezden çıkan sırlı tuğlalar çarkıfeleği andıran kırık “S” şeklinde dörtlü gruplar hâlinde dağılmakta, doğudakiler ise benzer anlayışta farklı versiyonlar oluşturmaktadır. Buradaki sırlı parçaların iki sıra hâlinde daha da kalınlaştığı, aralarına yerleştirilen turkuaz ve mor renkli kare çinilerle dekorasyonun farklılaştığı izlenebilmektedir. Pencere alınlığını çevreleyen iki çini sırasından turkuaz renkli enli kuşak dıştan, mor çinilerden kesilen ince şerit ise kemer kavisini de sınırlayarak içten çerçeve teşkil etmektedir. Köşelikler mozaik tekniğinde çinilerle tezyin edilmiştir. Burada, altı kollu çarkıfeleğin kırılan kolları uçlarından birbirine bağlanarak kapalı bir sistem meydana getirmiş, aralarda teşekkül eden üçgen sahalar mor renkli çinilerle doldurulmuştur.

Eyvanı dışında Selçuklu Dönemine ait başka bir bölümü kalmayan medresenin Cumhuriyet’in ilk yıllarına ait fotoğraflarında büyükçe bir avlusunun olduğu, duvarlarında moloz taş ve tuğlanın kullanıldığı, ön cephede muntazam taş örgüye yer verildiği anlaşılmaktadır. Bir sütunce hâline getirilen köşe süslemesindeki geometrik kompozisyon Selçuklu Dönemine işaret etmektedir. Eyvanın kıble tarafında yıkık bir türbenin bulunduğu, türbenin kalabilen temellerinin kireç ve Horasan harçlı olduğu, sandukasının da çamurla sıvandığı kaynaklarda belirtilmekte, ayrıca ana eyvanın iki tarafındaki birer kubbeli odadan soldakinin tamamen yok edildiği, sağdakinin ise harap olduğu söylenmektedir.

Medresenin hücreleri yıkıldıktan sonra yerine sonradan yapılan kerpiç örgülü hücrelerin testere dişi düzenindeki tuğla saçaklarının, medrese müderrisi Abdülvahit Çelebi tarafından yaptırıldığı tahmin edilmektedir. 19. yüzyıl sonlarında büyükçe bir avlu etrafında öğrenci odalarının sıralandığı, üstü dam örtülü bu medrese, zaman zaman kesintilere uğrasa da 1924 yılına kadar eğitim-öğretimine devam etmiş, medreselerin kapatılmasından sonra fonksiyonunu yitirerek kaderine terkedilmiş; bilahare yol açılması bahanesiyle de ortadan kaldırılmıştır. Bazı kaynaklarda tıp medresesi olduğu yazılmış, ancak bununla ilgili herhangi bir belge ortaya konmamıştır.

Medrese, halk arasında daha çok Küçük Karatay Medresesi olarak anılmış, kaynaklarda ise banisine atfen Kemaliye, Kemaleddin Rumtaş-Turumtaş, Karatay-ı Sagir Medresesi olarak adlandırılmıştır. Eserin yapılış tarihi ve banisiyle ilgili bir kitabesi tespit edilememiştir. Ancak Celaleddin Karatay’ın yaptırdığı hemen karşısındaki büyük medresenin vakfiyesinde geçen ifadelerden, bu medresenin Celaleddin Karatay’ın kardeşi Emir Kemaleddin Rumtaş’a ait olduğu kesinlik kazanmaktadır.