1883 yılında Kuzey Kafkasya’dan yola çıkan Karaçaylılar’dan bir kısmı Anadolu’ya gelip bir süre Sivas yöresinde, daha sonra Emirdağ Gözeli [Manavuz köyü yakınlarında bu yerleşimden sadece bir mezarlık kalıntısı vardır. Bu kalıntıları ilk fırsatta inceleyip kayıtlarını buraya yazacağız.] yöresine yerleşmişlerdir. Beşaltı yıl burada yaşadıktan sonra tekrar yollara düşmüşler ve bu günkü Yazılıkaya Platosuna gelmişlerdir.

Kuruluş tarihi kesin olarak bilinmemekle beraber, Kafkasya’dan gelen Karaçaylılar tarafından kurulmuştur. Bu Karaçaylılar önce Konya’nın Başhüyük Köyüne gelmişler, bir süre burada yaşadıktan sonra bir kısmı ayrılarak tahmini 1905 yıllarında bu günkü köyün bulunduğu yere gelmişler ve bir köy kurmuşlardır. Roma dönemine ait Malya şehrinin kalıntıları üzerine kurulduğu için ve burada bulunan kilise kalıntısından esinlenerek adını Kilise koymuşlardır.

İstemedikleri halde yurtlarından kopartılan ve Osmanlı'ya sığınmak zorunda kalan halkımız bu topraklara geldiği andan itibaren çok uzun yıllar kendini kabul ettirme mücadelesi vermiş ve bu arada birçok evladını kendilerine yabancı bu topraklarda kaybetmiştir. Arpacı Karaçay köyünün kurulması da birçok zorluklar sonrası verilen kayıplarla gerçekleşmiştir. Her ne kadar ilk gelenlerin kafalarındaki düşünceler bir şekilde anayurda dönmek şeklinde ise de [Rusya'daki Bolşevik ihtilâline kadar] bu topraklarda yitip yok olma tehlikesine karşı kendi varlıklarını devam ettirmek amacıyla devamlı bir arayış içine girmişlerdir. Arayışın adı halkın yapısına uygun bir yurtluk bulma arayışıdır.

Karaçay-Çerkes ve Abhazya'nın saygıdeğer sanatçısı Lidya BATÇAYEVA'nın ismi, müzik severler tarafından 35 seneyi aşkın bir süredir bilinmektedir. Ona baktığımız zaman çok kısa bir süre önce 51. yaş gününü kutladığına inanmak pek mümkün değil. Memleketteki izleyicilerin ona karşı farklı tutumları olduğunu görebiliriz; ona hayrandırlar ve eleştirirler, onu severler ve ondan nefret ederler, ancak o hiç kimseye karşı kayıtsız ve umursamaz bir tavır sergilemez.

90-çı cılla edile. Çekle açılıb, adamla tışına cürüy başlagan zamanla. Ol közüvlede meññe da tablık tüşüb, türlü-türlü kongresslege, kurultaylaga bara-kele turdum. Garb, Şark krallada da köb adam bla tanışdım – alanı içinde belgili cazıvçula, alimle, siyasetçile, millet ökülle... Söz kozgalgan cerde kuru da aytırga, añlatırga küreşgenim: «Karaçay deb, köb kıyınlık körgen, az sanlı Türk-Musliman Kavkaz halk bardı; anı kısha tarihi bılaydı; bügüññü caşav turumu, carsıvu budu».  Nença kralda bolgan esem da, bizge can avruthan, ne canı bla da boluşurga izlegen kral kullukçulaga türtüle kelgenme.

Karaçaylıla «cıcımnı uzunun, söznü va kıshasın» süygen adamladıla. Ol nart söznü barıbız da, kalam tuthanla va artıksız da, esde tutarga borçlubuz. Alay a, Zoyanı üsünden eki-üç söz bla aythan kıyındı – anı cazıvu kıyın kadarlı halkıbıznı tarihini alkın tintilmegen bir çapragı-beti bolganı sebebli. 1991 cıl İngilizni ara şaharı Londonda İngiliz tilde çıkgan jurnalda [«Jurnal İnstituta problem musulmanskih menşinstv»] 1943 cıl Sovetle Karaçaylılaga – Şimal Kavkaznı bir Türk-Musliman halkına – kalay sürgün etgenlerini üsünden ullu statya-makale basmalanñandı. Anı cazgan norvejli doktor, professor Alf Grannesdi. Ol tintiv işni orus tilge köçürtüb, 1992 cıl «Üyge İgilik» gazetni 8-çi nomerinde bergen edik. Olsagatda meni seyirsindirgen – bizge can avrutub, bizni üsübüzden alay cazarga Alfnı esine kalay kelgen bolur? Endi añılayma: aña ol innetni siñdirgen bir da ajımsız Zoya bolgandı – Grannesni üy biyçesi. Professornu kesine zamanında tübeyalmaganıma carsıyma: ol 2000-çi cıl avuşhandı. Zoya bla va olturub uşak etebiz.

Zaremanı bütev basmalanñan ilmu işlerin okub, 500 çapraklık cañı kol cazması bla da şagrey bolub, kesi bla da talay kere tıñılı uşak etgenden sora, kölüme kelgenni cazarga tavkel bolganma. Kız ızından kız tuva kelib, üyürde caş tuvsa – cav cibni da tagıb, sav el cıyılıb toy-oyun etiv algınlada adet edi. Teren bilimi, ozgan fahmusu, beti, ötü da bolgan kerti tarihçi tuvgandı halkıbızga – meni bu sözüm da, tutallık ese, cav cibni ornun tutsun.

Ömürleni uzagına – taşa da, turu da – Karaçay-Malkar halkga karşçı kazavat barıb turgandı. Bügün da baradı ol kazavat – bizni dump etib, candet curtubuzga iye bolur üçün. Kallay küçle emda bizni bla ala kalay küreşgenlerin halkıbıznı köbüsü bilmeydi. Üydegisin asrar üçün, canın haram etib, baş költürmey kara işlede urunñan bir tüz tavluga cuk aytuv cokdu. Ol üydegisin ayaklandırırga, okuturga, baş bilim aldırırga küreşedi.