İlçe tarihinin (M.Ö.XVI- XIV) yüzyıllarda yöreye yerleşen Hurrilere kadar uzandığı bilinmektedir. Yörede hakimiyet kuran çeşitli kavimlerin egemenliğinde kalan Ağın, 1071 yılından sonra Türklerin Anadolu'ya girmesiyle 1115-1234'e kadar Artukoğulları yönetiminde kalmış, 1514 Çaldıran Savaşından sonra Osmanlı topraklarına katılmıştır. Ağın ilçesi tarihi yapıları ve höyükleri ile ünlü bir ilçedir. Bunlardan bazıları, Ağın Nekropolü, Hastek Kalesi, Kaya sığınağı, Roma devrinden kalma kaya mezarları. Keban Barajı dolayısiyle yapılan kurtarma kazıları sırasında, yontma taş çağından Bizans dönemine varan bir çok eser bulunmuştur.    
        
Bu kazılarda Kalaycık, Hoşirikler ve Kilise yazısı civarlarında Roma döneminden kalma kale,
hamam ve kilise kalıntıları ortaya çıkarılmıştır. Bu, bölgenin o dönemlerde büyük istilalara uğradığını göstermiştir. Yine, Yenipayam ve Bademli köyleri civarında oyma kaya sığınakları, kaya mezarları Roma dönemini tarihlemektedir. Bölgede Hititler'a ait yerleşim kalıntıları ve bazı eserler bulunmuş olup, ilçe Hitit ve Urartular arasında sınır teşkil ettiğinden, İlçe de her iki kavime ait sanat izlerine rastlanır.  
   

Romalılar burada kale karakolları kurarak bölgeyi denetimleri altında tutmuşlardır.   
Bizanslılar döneminde imparatorluk, bölgedeki karışıklıkları önleyememiştir. Selçuklular'ın bu topraklara girişi 1018 yıllarına rastlar. 1071 yılından sonra Ağın, Arapkir ve Kemaliye bölgesi Mengücekler'in eline geçer. 1120 yılında Harput'a hakim Artukoğulları ile Mengücekler arasında bu bölge yüzünden çıkan savaşta Mengücekoğulları yenilir.

Ağın ve çevresi Artuklular'ın eline geçmiş olur. 1228 yılında burası Anadolu Selçuklu   
sınırlarına katılır. Yavuz Sultan Selim'in doğu seferi sırasında 1514 de Osmanlıların eline geçer.   

Bu dönemde Ağın, Arapgir ve Kemaliye'ye bağlı bir bucaktır. Cumhuriyetle birlikte Elazığ'ın   
Keban İlçesine bağlı bir bucak olan Ağın 1954 yılında çıkarılan bir kanunla Elazığ'ın 7.ilçesi olur.