Köyün adının nereden geldiği köyün etrafının kayalıklarla çevrili olduğu için KAYAALTI adı verilmiştir ve geçmişi hakkında çok fazla detaylı bilgi yoktur. 1800 lü yıllarda Bünyan'ın Orta Köyünden gelen aslen türkmen soyundan olan ailelerin yerleşmesiyle kurulmuştur.Bir zamanlar köy ormanlıkken köye yapılan yerleşmeler sonucunda gelen kişiler ormanlardan yararlanarak ev yapmışlar; ve yakacak odun olarak kullanmışlardır. Halen köyde bulunan kişiler asimile olmamış; ve gelenek ve göreneklerini korumayı başarmışlardır.O civarda bulunan tek TÜRKMEN KÖYÜ burasıdır.Köyümüzün çevresinin de birçok tarihe ev sahipliği yamış ; olduğu yapılan kazılardan ve kalıntılardan anlaşılmaktadır.
Kültürü
Köyün gelenek, görenek ve yemekleri hakkında bilgi yoktur.Bir zamanlar orada yaşadıkları zannedilen türkmenler; gelin mezarları ve mağaraları turistik açıdan önemlidir.Köy dağların arasına saklanmış; bir ova gibidir. Sular yazları dahi çok soğuktur.Sürekli gelen geçen kişilerin konaklama alanı olarak kullanabilecekleri bir yerdir. İnsanları çok sıcak kanlı ve misafirperverdir.Köyde hala 40-50 hane bulunmaktadır
