İlçenin ilk bilinen adı Tavusker’dir. Tavusker adı ise eski tarihi kaynaklara göre Kafkasya’da Derbent kesimlerinde yaşayan Saka-İskit Türk boylarından biri olan Ta-Ok lardan gelmektedir. İlk zamanlarda bu Türk boyunun yaşadığı alana Dav-Eli denilmektedir. Daha sonraları ise Tahoskar zamanla Tavusker şekline dönüşerek günümüze kadar gelmiştir. Bu ad ise tahminlere göre M.S.350 yılından itibaren kullanılmaktadır.Olur adının ise yörede yapılan Lor peynirinden geldiği söylenilmektedir. Olura Devlet büyüklerinden biri gelir ona lezzetli olan bu lordan ikram edilir. İkram edilen bu lor peyniri Devlet büyüğünün hoşuna gider.Gittiği yerde çevresindekilere “Şimdi o lordan olsa da yesek” der. Bunun üzerine ilçeye OLOR daha sonra OLUR denildiği rivayet edilir.

Selçuklular zamanında ilçemiz Saltukoğulları Beyliği’ne bağlı olarak kalmış bu durum Moğol istilasına kadar devam ederek, istila sonrası Moğollara bağlanmış, daha sonra Fatih Sultan Mehmet’in Trabzon’u fethiyle İlçemiz artık gerçek kimliğini bulmaya başlamıştı. 15.yüzyıl ortalarında Ahıska, Şavşat,Çıldır.Ardanuç,Tortum,Oltu,Olur,Yusufeli adı ile beş bölgede beş kola ayrılan Atabekler yurdu olarak ilçemiz de anılmaktadır.

Asıl buhranlı dönem, yörede 93 harbi denilen 1877-1878 Osmanlı-Rus savaşı ile başlamıştır. Bu savaşta Doğu cephesi komutanı Gazi Ahmet Muhtar Paşanın Rusları Zivin Gedikler muharebesinde yenmesine rağmen bu başarısı çok üstün Rus kuvvetleri karşısında Osmanlı ordusu Erzurum’a çekilmek zorunda kalmıştır. 1878’de Ruslarla yapılan Berlin Antlaşması ile Batum,Kars,Ardahan,Eleşkirt,Doğubeyazıt,Oltu, Şenkaya ve ilçemiz dahil bölgemiz Ruslara savaş tazminatı olarak verilmiştir.1917 yılında Rusya’da çıkan Bolşevik İhtilali nedeniyle yörede bulunan Rus birlikleri birtakım ağır silah ve mühimmatı bölgedeki Ermenilere bırakarak çekilmişlerdir.Silah ve cephane yönünden güçlenen Ermeniler Oltu sancağının Olur ilçesine bağlı 26 köyünde sürekli katliam yaparak köyleri acımasızca yakıp yıkmışlardır. Bunun üzerine bölgede silahlı milisler oluşturularak yöre halkı örgütlenmiştir. Örgütlenen yöre halkı Ermenilere karşı direniş hareketleri başlatılmıştır. Daha sonra 6. Tümen komutanı Yarbay Gürsel Bey komutasındaki birlikler 25 Mart 1918 de Oltu’yu kurtarmışlar. Aynı birlikler Olur çevresinde oluşturulan milis kuvvetleri ile birilikte 28 Mart 1918’de de güzel ilçemizi düşman işgalinden kurtarmışlardır.

İlçemiz 1958 yılına kadar Oltu ilçesine bağlı bucak olarak kalmış 1958 yılında ise ilçe olmuştur.