Orta Yayla Kilisesi; Gümüşhane il merkezine bağlı Yağlıdere Köyü, Şamanlı Yaylası’nda, meskûn mahaldan uzak, vadiye hâkim tepede, kayalık üzerine inşa edilmiştir. Dikdörtgen bir alan üzerine, bazilikal plan şemasında üç nefli, 09,25 x 07,55 m ölçülerindedir. 

İç mekân iki paye, dört sütunla üç nefe ayrılmıştır. Orta nef yan neflerden daha geniş ve yüksek tutulmuştur. Kilisesinin kuzey ve batı cepheleri sağır, güney cephesi ise bir giriş ve iki pencereye yer almaktadır. Kilisenin güneyinde yuvarlak kemerli bir girişi iki büyük pencere yer almaktadır. Dikdörtgen çerçeveli girişin üzerinde sivri kemer bir alanlık ve alınlık içerisindeki kitabelik boş bırakılmıştır.

Doğu cephesinde dışa taşkın yapılan apsis ve pastaphorion hücreleri ana yapıdan daha alçak ve dar yapılmış olup içten ve dıştan yarım yuvarlak planlı olarak düzenlenmiştir. Cephe eksenlerinde birer mazgal pencereye yer verilmiştir. Ayrıca iç kısımda nişler bulunur. 2,53 m genişliğinde ve 1,65 m derinliğindeki apsisin üst kısmı kısmen yıkıktır.

Kilisenin içi sıvalıdır. Üst örtüyü taşıyan sütun başlıkları prizmatik üçgenlerden oluşan baklava dilimi şeklinde süslenmiştir. Kapı, pencere söveleri, apsisler, cephe bitimleri taşıyıcılar ve kemerler düzgün yontma taştan yapılmıştır, diğer kısımlar moloz taştır.

Gümüşhane’nin tarihi

Doğuda Bizer ve Muşkilerin yaşadığı Skidides ile batıda Pariyadres dağlarına uzanan ve Güneyde Satala (Sadak) ovası ile çevrili Gümüşhane bölgesinde tam bir kavimler mozaiği oluşmuştur. Yapılan araştırmalarda elde edilen buluntular ancak M.Ö. 3000-2000 arasına tarihlenen ilk Tunç Çağı’nın aydınlatılmasına yardımcı olmaktadır.

Bulunduğu coğrafi konum itibariyle tarihsel olaylar karşısında daima tampon bölge olarak kalan Gümüşhane’de mimari eserlerin çoğu günümüze ulaşamamıştır. Kapadokya yazılı kaynaklarında bir zenginlik kaynağı olarak sık sık adı geçen ve yoğun ticari ilişkilere konu olduğu belirtilen gümüşün, Asur koloni dönemindeki yoğun çıkarımlar nedeniyle yataklar zenginliklerini büyük ölçüde yitirmiş ve eski çıkarım izleri hemen hemen silinmiştir. Gümüşhane yöresinin Azzi ülkesi adıyla, güneyinden

Suşehri’ne kadar uzanan topraklarına ise Hayaşa ülkesi olarak anıldığı Hititler zamanında zenginlik kaynağı yine gümüştür. Hititler alışverişte değer ölçüsü olarak gümüşü kullanıyorlardı. Hitit İmparatorluğu gerek batıdan gelen Frigllerin ve gerekse kuzey komşuları Kaşkarların saldırıları sonucu zayıflayınca Urartular bölgeye hakim oldular. (M.Ö. 860) Asurların zayıflamasından da faydalanan Urartular bölgedeki nüfuzlarını artırdılar. Aynı yıllarda Ege adalarında ticaretle uğraşan Argonotlar

“Konuk kabul etmeyen hırçın deniz” diye tabir ettikleri Karadeniz’in madenleriyle ünlü yöresine koloniler kurdular. (M.Ö. 756) Böylece Gümüşhane yöresi madenleri de uygarlığa açılmıştır. Bu gelişmeyle birlikte Urartu kültürü ve maden işçiliği Argonotlar aracılığıyla Ege adalarına dek yayıldı. M.Ö. 560’lı yıllarda Medler Gümüşhane yöresini ele geçirdiler. Ancak Medler yine aynı sülaleden gelen Ahamemiş sülalesinden

II.Kiros (Kuraş) ‘ın başkaldırısı ile yıkılmış ve M.Ö. 550 de Pers Krallığı kurulmuştur. Gümüşhane’de bu sınırlar içinde olup yılda 300 gümüş talen vergi ödemekle yükümlü tutulmuştur. Persler Yunanlılarla yaptıkları savaşlarda yöre insanını da kullanmış, nitekim Kserkes’in M.Ö 480’de Yunanistan’a yaptığı sefere Khalip (Khaledi-Haldi= Gümüşhane,

Trabzon ve çevresinde yaşadığı belirtilen halk ) Askerleri de katılmıştır. Heredot bu seferde Khaliplerin küçük kalkanlar, kısa mızraklar ve eğri kılıçlarla donandığını yazmaktadır. Bazı kaynaklar ise bu sefere Çoruh Havzasında yaşayan Muşkillerin katıldığını kaydederler. İmparator II. Artakserkses döneminde

(M.Ö.400 ) Bölgeyi güneyden kuzeye dolaşmış olan tarihçi Ksenefon ise, Pers ordusunda paralı askerlik yapan Makedonyallıların Babil yöresinde Karduklara yenildiklerini, daha sonra ki geri çekilme sırassında Gümüşhane yöresinden de geç tiklerini yazmaktadır. M.Ö 350’lerde zayıflamaya başlayan Pers İmparatorluğu’na Makedonya Kralı Büyük İskender son verdi. (M.Ö. 334 ve 331 ) İskender orduları Gümüşhane yörelerine kadar uzanamadılar Yöre bu yüzden M.Ö 4.yüzyıl başında siyasal bir boşluğun içine düştü. Büyük İskender’in hakimlerinden

Flikos’un Gümüşhane’de gümüş madeni bulması üzerine buraya önem verdiği söylenir. Ege adalarından biri olan Kios adasının tiranı Mitridates Ktistes doğuda İris (Yeşilırmak) ve Lykos (Kelkit) havzasına dek uzanan toprakları ele geçirdi. (M.Ö.301 ) Pontos Krallığının kurucusu olan 1.Mitridates öldükten sonra yerine oğulları geçti. vunma üstünlüğünü korumak için yüzlerce kale yapıldı.

Ordunun zor duruma düştüğü zamanlarda da bu dağlık bölgeye iyi bir saklanma yeri oluyordu. Pontos Krallığının üstünlüğü Kerona savaşında sarsılınca iç çalkantılar başlamış, Lykos (Kelkit) yakınlarındaki Kabira dolaylarında Romalılarla yapılan ikinci büyük savaşta da yenilince Gümüşhane dağlarına çekilmişlerdir . Yöredeki Roma hakimiyeti M.Ö.20. yılda başlamış ve M.S. 395’lere kadar devam etmiş. Kavimler göçü neticesinde Roma İmparatorluğu Doğu ve Batı Roma diye ikiye ayrılınca

Gümüşhane yöresi Doğu Roma (Bizans) sınırları içinde kalmıştır. Bzans İmparatorluğu döneminde Gümüşhane yöresi de Bzans-Hazar askeri işbirliğinde önemli rol oynamıştır. Kral Jüstinyen zamanında Keçi Kale Kalesi (Kale Bucağında) onartılmıştır. Roma ve Bizans dönemlerinde yörede kurulu kente Argyropolis adı verilmiştir.Yöredeki savaşların asıl sebepleri tarihi İpek Yolu üzerinde bulunması ve madenleri ile ün şyapmış olmasıdır.

7. ve 8. yüzyıllarda bölge birkaç defa el değiştirmiştir. Halife Hz. Ömer zamanında ( 634-644) Erzincan ve Erzurum Arapların eline geçince Gümüşhane’ de bu egemenliği tanıdı . Halife Hz. Osman zamanından, Emevi ve Abbasilere kadar olan dönem içerisinde el değiştiren yöre Çağrı Bey’ in 1016 yılında Anadolu’ya yaptığı ilk akın sırasında Türklerin eline geçmiştir. 1071 Malazgirt Savaşından sonra yöre

Selçuklu Egemenliğine girmiş , son olarak da 1467 ‘de Akkoyunlular yörede egemen olmuşlardır. 1461 yılında Fatih Sultan Mehmet’in Trabzon Rum İmparatorluğuna son vermesiyle bölgede Osmanlı etkisi görülmeye başlanmıştır. Gümüşhane, Trabzon Rum İmparatorluğunun fethedilmesinden sonra Osmanlı hakimiyetine girmiş ve bu hakimiyet 1461 ‘den 1467’ye kadar sürmüştür. Bu tarihten sonra Gümüşhane Akkoyunluların hakimiyetine girmiştir.

Bu hakimiyet 1473 yılında Fatih ile Uzun Hasan arasında vuku bulunan Otluk beli savaşı ile sona ermiştir.1514 yılında Yavuz Sultan Selim tarafından kesin olarak alınmış ve Osmanlı topraklarına katılmıştır. Kanuni Sultan Süleyman (1520/1566 ) İran Seferi sırasında Harşit Vadisinden geçerken Gümüş madeninin bulunduğu eski Gümüşhane yöresinin imar edilmesini emretmiş, böylece buraya 50 ev ve Süleymaniye Camii yapılmıştır.

1877-1878 Osmanlı-Rus savaşı ile 7 Temmuz 1916 tarihinde Ruslar’ın doğu Anadolu ve Doğu Karadeniz de yaptıkları işgaller ve bunun sonucundaki göçler Gümüşhane’de hayat bırakmamıştır. Ruslar 16 Temmuz 1916 da Bayburt’u aldıktan sonra yollarına devam ederek 19 (20) Temmuz 1916 günü Gümüşhane’ye girmişlerdir. Türk birlikleri fazla karşı koyamayınca Ruslar aynı gün Torul’a girmişlerdir. Böylece Trabzon yolu Ruslar’a açılmıştır.

22 Temmuz 1916 günü Kelkit üzerine yürüyen Rus Ordusu akşama doğru burayı ele geçirmiştir. Gümüşhane ve çevresi bu işgaller karşısında ve özellikle Ermeni zulmü altında ezilirken Rusya’da Bolşevik ihtilalinin çıkması ve iç çalkantılar sebebiyle Ruslar 18 Aralık 1917 Erzincan mütarekesini imzalamış ve ordularını geri çekmeyi kabul etmiştir.

Torul 14 Şubat Gümüşhane 15 Şubat ve Kelkit 17 Şubat 1918 de Rus işgalinden kurtarılmıştır. Osmanlı hakimiyetinin ilk zamanlarında Erzurum eyaletine bağlı iken sonraları Trabzon’a bağlanan Gümüşhane sancağı 20 Nisan 1924 tarih ve 491 sayılı kanunun 89. maddesinde “Vilayet” başlığı altındaki kanunla 1925 yılında il olmuştur.

1925-1926 tarihli Trabzon salnamesinde “Gümüşhane Vilayeti merkez ilçe ile birlikte Bayburt, Kelkit, Torul ve Şiran olmak üzere 5 ilçe, 5 Bucak ve 377 köyden oluştuğu, 16943 evde 101153 kişinin yaşadığı şehirde hastane olmadığı… Vilayetin ticari durumunun Trabzon-Bayburt-Erzurum büyük yol üzerinde ve İran Transit yolu üzerinde bulunduğundan oldukça iyi olduğu, aslında tarım memleketi olan vilayetin bazı yerlerinde ürünleri yerel ihtiyacı karşılamadığından,

Halkın bir kısmının işçilik, meyvecilikle, katırcılıkla geçindiği” belirtilmektedir. Gümüşhane’nin il olması ile birlikte Ahmet DURMUŞ (Evren-Dilek) Bey Vali olarak atanmıştır. Cumhuriyet döneminin ilk Belediye Başkanı ise Osman Bey (Ataç) olup, 1922-1934 tarihleri arasında görev yapmıştır.

Bayburt’un 1989 tarihinde il olması ve ayrıca yeni ilçelerin oluşturulması ile idari taksimata değişiklik meydana gelmiştir. 1988 yılında Köse 1990 yılında Kürtün ilçe olmuştur. Mustafa Kemal Atatürk’ün Cumhurbaşkanlığı döneminde Gümüşhane’de yol ve köprü yapımına önem vermiş, tarım geliştirilmeye çalışılmıştır.