İlçenin tarihi Eski Çağlara kadar inmektedir. İlçenin Söğütlü Göze Mevkiinde Hitit dönemine ait kalıntılarla karşılaşılmıştır. Bunun dışındaki dönemlerle ilgili yeterli bir bilgiye rastlanmamaktadır. Malazgirt savaşı’ndan (1071) sonra Türkmen boyları yöreye yerleşmeye başlamıştır. Saltuklular, Danişmendliler, XIV.yüzyılın başlarında Mengücekoğulları ile Eratna Beylikleri yöreyi hakimiyetleri altına almışlardır. Fatih Sultan Mehmet’in Trabzon Rum Pontus Devletini ele geçirmesinden (1461) sonra 1473’te Gölova da Osmanlı topraklarına katılmıştır. Osmanlı döneminde küçük bir şehir görünümünde olup, XIX.yüzyılın sonlarında yöre köylerinin yararlandığı düzenli bir Pazar kurulmuştur. Eski ismi Ayanis olan Gölova’dan Evliya Çelebi de Seyahatnamesi’nde söz etmiştir. Cumhuriyetin ilanından sonra Suşehri’ne bağlı bir bucak merkezi iken, 1972 yılında belde, 1990 yılında da Sivas’a bağlı ilçe konumuna getirilmiştir.1939 yılındaki Erzincan depremi Gölova’yı da etkilemiş, Aşağı Cami Mahallesi tümü ile yıkılmıştır. Coğrafi Konum : İç Anadolu ile Karadeniz Bölgesi arasında, Sivas İline bağlı bir ilçe olan Gölova, doğuda Refahiye, güneyde İmranlı, batıda Akıncılar, kuzeyde Çamoluk ilçeleri ile çevrilidir. Kelkit Havzasında yer alan Gölova, engebeli bir arazi yapısına sahiptir. İlçe topraklarını Kel Dağ ve Kızıldağ engebelendirmektedir. İlçe I.Derece deprem bölgesinde olup, Kuzey Anadolu Fay Hattı üzerinde yer almaktadır. İlçe topraklarını Sarıçiçek Yaylasından kaynaklanan Çobanlı Çayı ile Kelkit Çayı sulamaktadır. Ayrıca GölovaBaraj Gölü ilçe toprakları sınırları içerisindedir. Deniz seviyesinden 1.300 m. yüksekliktedir. Sivas’a 198 km uzaklıktaki ilçenin yüzölçümü 308 km2dir.