Roma İmparatoru Gordianus III döneminde (M.S. 238-244), imparatorun dördüncü tahta çıkış tarihi olan 242 yılında, Kayseri’de yeni inşa edilen surların hatırasına, imparator ve karısı Trankulliana adlarına sikke bastırıldığı biliniyor. Tarihte ilk defa Kayseri Surları ismi burada geçmektedir.

1072 tarihinde meydana gelen şiddetli bir deprem, surlara zarar vermiş ve bu depremde yıkılan ve zarar gören sur duvarları ve burçlar Danişmendliler tarafından tamir edilmiştir.

Anadolu Selçuklu Sultanı II. Kılıçarslan, Kayseri’yi Danişmendlilerden geri aldıktan sonra, I. Alaaddin Keykubat döneminde, İç Kale surları Moğol tehlikesine karşı neredeyse yeniden inşa edercesine elden geçirilmiştir. Kale, bugünkü görünümünü büyük ölçüde bu dönemde kazanmıştır.

Fatih Sultan Mehmed, yine kaleyi güçlendirmek üzere kalenin tamirini emretmiş ve gerekli tahsisatı ayırmıştır. 1520 tarihli Tapu Tahir defterinde Mescid-i Ahmedek olarak geçen ve bugün İç Kale’de yer alan Cami yine Fatih Döneminde inşa ettirilmiştir.

1552 yılında Kayseri Kalesi’nin surlarının bazıları yıkılıp tahrip olmuş 1553 yılında tamir edilmiştir.

17. yüzyıldan itibaren artık şehrin kale tarafından müdafaa ihtiyacı kalmadığından iç kaleye de mahalleler kurulmaya başlanmıştır.

1925 yılına kadar yerleşim yeri olarak kullanılan kale içi, 1939’da Kayseri’de daralan pazar alanları nedeniyle hal olarak kullanılmıştır.

20. Yüzyılın ortalarında, yerine ticaretin daha aktif olduğu mekânlar yapılmıştır.

1970’li yılların sonunda kale içinde yer alan niteliksiz yapılar kaldırılmış, 12 eylül darbesinin ardından idareciler, maliyetlerin yüksekliğini gerekçe göstererek Sarraflar Derneği’nin kalenin restorasyonu karşılığında Sarraflar Çarşısı olması fikrini benimsemişlerdir.

1983 yılında iç kalenin onarımı ve iç kale içerisine iki katlı yeni yapılanmayı öngören  proje uygulanmıştır. 1983 yılından 2008 yılına kadar kale içi çarşı-pazar olarak barakalarla dolmuştur.

2008 yılında Kayseri Büyükşehir Belediyesi tarafından iki kademeli olmak üzere “Kayseri İç Kalesi Ulusal Mimarlık Yarışması” açılmış, 2008 yılında başlayan yarışma süreci, 2011 yılında kazanan ekip ile sözleşme imzalanması ile devam etmiştir.

2013 yılında kale içerisinde bulunan 1983-86 yılları arasında yapılmış olan betonarme yapı yıkılmıştır.

2014 yılında kale içerisinde Kayseri Arkeoloji Müzesi yapım işine başlanılmıştır. 2014 yılında başlayan müze yapım çalışmaları 2018 yılında sonlanmıştır. 2019 yılında ise Kayseri Arkeoloji Müzesi yapıya taşınmıştır.

Kayseri Büyükşehir Belediyesi tarafından İç Kale’nin beden duvarlarının restorasyon uygulama çalışmalarına 2016 yılında başlanılmıştır. Günümüzde çalışmalar tamamlanmış ve halkın hizmetine sunulmuştur.