Şeytan Kalesi; Ardahan’ın Çıldır İlçesi, Yıldırımtepe Köyü sınırları içerisinde yer almaktadır. İlçe Merkezi’nden Yıldırımtepe Köyü’ne günün belirli saatlerinde toplu ulaşım araçlarıyla ulaşım sağlanmaktadır.
Günümüzde gece aydınlatılmakta olan Şeytan Kalesi’ne hemen yakınındaki seyir tepesine kadar döşeli bir araç yoluyla, bu noktadan sonra da bir patikayla ulaşılmaktadır.
Tarihsel Eruşeti bölgesindeki bu kale Gürcüce kaynaklarda “Kacistsihe” (Şeytan Kalesi) olarak geçer ve Osmanlıların bölgeyi ele geçirmesinden sonra kalenin adının Gürcüceden çevrildiği sanılır.
Kale, bir derenin sağ kıyısında kayalık bir tepede inşaa edilmiştir. Üç tarafı uçurum olan bu tepeye sadece bir yönden ulaşmak mümkündür. Kaleye bu konumundan dolayı ulaşımının ve ele geçirilmesinin zor olması nedeniyle Şeytan Kalesi dendiği sanılır.
Ancak kalenin ele geçirilememesinden dolayı kaledekilerin yenilmezliği kötü ruhlarla, şeytanla bağlantılı olduğu gibi halk arasında bir efsane de mevcuttur. Deniz seviyesinden 1910 metre yükseklikteki kale günümüze hayli sağlam biçimde ulaşmıştır. Simetrik olmayan bir plana sahip olan kalenin ebatları 161 × 93 metredir ve kalenin üç kulesi vardır. Bunlardan biri günümüze sağlam ulaşmıştır.
Şeytan Kalesi’nin Urartular zamanında inşa edildiğine dair ileri sürülen görüşler vardır. Ancak bu görüşler herhangi bir tarihsel kaynağa dayanmamaktadır. Daha geç tarihli kaynakların verdiği bilgiye göre kalenin erken orta çağ kalesi olması gerektiği anlaşılmaktadır. Bununla birlikte konumu itibarıyla böyle bir yerin daha eski tarihlerde de kale olması ihtimali çok yüksektir. Ne var ki bunu kanıtlayacak kaynaklar henüz mevcut değildir.
Gürcü prensliği Samtshe-Saatabago ile komşu devletlerin 1561-1587 arasındaki tarihini anlatan Meshuri Matiane adlı vakayinameye göre Şeytan Kalesi Samtshe-Saatabago hükümdarı II. Manuçar’ın yönetimindeyken, Manuçar Lala Mustafa Paşa’yla anlaşmış ve içinde Şeytan Kalesi’nin de yer aldığı altı kaleyi Osmanlılara vermiştir.
Şeytan Kalesi Gürcistan Krallığı ve Samtshe-Saatabago dönemlerinde olduğu gibi, 16. yüzyıldan itibaren Osmanlılar zamanında da kullanılmıştır. Kalenin yakınında bir ticaret alanı olduğu bilinmektedir. Rabat olarak bilinen bu yer daha sonra sıradan yerleşmeye dönüşmüştür.
Şeytan Kalesi’nde 14. yüzyılda inşa edilmiş tek nefli bir kilise vardır. Kalenin alt kısmında kalan ve Aziz Stefan’a adanmış olan bu kiliseden geriye sadece dört duvar kalmıştır. Kalede ayrıca sarnıç ve dereye inen merdiven basamakları kalıntıları günümüze ulaşmıştır.