Ağrı, tarih boyunca farklı medeniyetlere ev sahipliği yapmıştır. Hititler döneminde "Arza" olarak anılmıştır. Ermeniler döneminde ise "Karakilise" olarak adlandırılmıştır.
Osmanlı döneminde ise şehir, önce "Şorbulak", sonra da "Karaköse" olarak anılmıştır.
Ağrı ilinin günümüzdeki adı, 1938 yılında Bakanlar Kurulu kararıyla değiştirilmiştir.
Ağrı ilinin eski adları şunlardır:
Arza (Hitit)
Karakilise (Ermeni)
Şorbulak (Osmanlı)
Karaköse (Osmanlı)
Ağrı (Cumhuriyet)
Ağrı ilinin eski adı, bölgenin tarihsel gelişimini ve kültürel çeşitliliğini yansıtmaktadır.