19. yy’ın sonlarında Osman Hamdi Bey tarafından vilayetlerle gönderilen bir genelge ile taşınabilir eski eserlerden en önemlilerinin İstanbul’a gönderilmesi, diğerlerinin korumaya elverişli okullarda toplanmasının istenmesi üzerine, Kayseri çevresinden toplanan pek çok eser Kayseri Lisesi’nin bir odasında koruma altına alınmıştır.1928 yılında Milli Eğitim Bakanı Esat Bey, Kayseri’ye yaptığı bir ziyaret sırasında, bu eserleri görür ve Kayseri Valisi Fuat Bey’le bir müze kurulması konusunu görüşür. Vali Fuat Bey’in çalışmalarıyla, Mahperi Hunat (Hatun) Medresesi’nin onarımı yapıldıktan sonra, 1 Mart 1930 tarihinde açılan müze 1937 tarihine kadar “Depo Müze” olarak faaliyette bulunur. Eserlerin kronolojik ve bilimsel tasnifinin yapılmasından sonra, 1938 yılında halkın ziyaretine açılır.

       1948 yılında Prof. Dr. Tahsin Özgüç tarafından; Kayseri’nin 22 km. kuzeydoğusunda bulunan Kültepe Kaniş/Karum’da sistemli kazıların başlatılması ile açığa çıkartılan eserlerle çevreden satın alınan ve bağışlanan eserlerin gün geçtikçe çoğalması sebebiyle ve müze teşhir ve depolarında yer temininde güçlük çekilmesiyle yeni bir müze binası yapılması kararlaştırılır. 1965 yılında müze binası inşaatına başlanır ve 26 Haziran 1969 tarihinde ziyarete açılır. Kayseri Kalesinin restorasyon çalışması tamamlanınca, içerisine Arkeoloji Müzesi için inşa edilen alana taşınmış ve 27 Eylül 2019 tarihinde ziyaretçilerine kapılarını açmıştır. Kayseri Arkeoloji Müzesi bünyesinde 40 bin civarı etnografik ve arkeolojik eser bulunmaktadır