İlçemizin bir yerleşim merkezi olarak ne zaman kurulduğu kesin olarak tespit edilememiştir. Yöre; Huriler, Asurlar, Hititler, Medler, Persler, Romalılar Urartular ve İslamiyet?in yayılma çağında bir süre de Araplar?ın hakimiyetinde kalmıştır.Yörede kesin Türk hakimiyeti Malazgirt Zaferi?nden bir yıl sonra başlamıştır.Bölgeyi Selçuklular?a tabi Saltuklular yönetmiştir. İlçe merkezinin bu beyliğin yöneticisi Mamahatun tarafından 1190 yıllarında kurulduğu tahmin edilmektedir. Çeşitli Türk beyliklerinin hakimiyetinde kalan Tercan, Cengiz ve Timur Ordularının da istilasına uğramıştır. 1473’de Otlukbeli Zaferi ile başlayan Osmanlı hakimiyeti 26 Mart 1916 yılına kadar sürmüş, bu tarihte ilçe Rus istilasına uğramıştır. 19l5-1918 yılları arasında ilçe merkezi ve köyleri Ermeni katliamına sahne olmuş, 17 Şubat 1918‘de ilçemiz işgalden kurtarılmıştır. Coğrafi Konum : Doğu Anadolu’nun kuzey batısında, Erzincan İlinin doğusunda, Yukarı Fırat Havzasında yer almaktadır. Kuzeyinde Erzurum’un Aşkale İlçesi ve Erzincan’ın Çayırlı İlçesi, güneyinde Tunceli’nin Pülümür İlçesi ve Bingöl’ün Yedisu İlçesi, doğusunda Erzurum, batısında ise Çayırlı İlçesi yer almaktadır. 1592 Km2 alanı kaplamaktadır. Yüzölçümü 1.592 km2 olup deniz seviyesinden yüksekliği 1427 m.’dir. İlçemiz 1.derece deprem kuşağında yer almaktadır. En yüksek yeri 3071 m. ile Dumanlı Dağıdır. Fırat Irmağının kollarından olan Karasu ve Tuzla Çayı İlçe topraklarında birleşmektedir. Erzincan’a 98, Erzurum’a 93 km. mesafede bulunan ilçe 3 belde, 65 köy ve 117 mezradan oluşmaktadır. İlçenin arazisi taşlık ve meyilli bir görünüm arzetmektedir. Pekeriç, Kargın, Üçpınar ve Beşkaya Ovaları İlçenin belli başlı tarım alanlarını oluşturmaktadır. İlçede taşlı, tınlı, kumlu, tınlı-kumlu yer yer humusça zengin toprak yapılarına rastlamak mümkündür. Yıllık yağış ortalaması 456 kg/m2’dir. İlçede tarım topraklarının %37.54’ü sulanabilmektedir.