Afyonkarahisar ilinin eski adı Karahisâr-ı Sâhib'dir. Bu isim, şehrin ortasında yükselen koyu renkli volkanik kayaların renginden ve üstünde bulunan hisardan gelir.
Afyonkarahisar, tarih boyunca farklı medeniyetlere ev sahipliği yapmıştır. Hititler döneminde "Hapannuva", Romalılar ve Bizanslılar döneminde "Akroinon" olarak anılmıştır. Selçuklu ve Osmanlı dönemlerinde ise "Karahisâr-ı Devlet" ve "Karahisâr-ı Sahib" adlarıyla anılmıştır.
17.yüzyıldan itibaren belgelerde "Afyonkarahisar" adı da kullanılmaya başlanmıştır. Bu isim, şehrin merkezinde bulunan ve haşhaş bitkisinden elde edilen afyonun üretimiyle ilişkilidir.
Afyonkarahisar ilinin günümüzdeki adı, 2005 yılında Bakanlar Kurulu kararıyla değiştirilmiştir.
Afyonkarahisar ilinin eski adları şunlardır:
Hapannuva (Hitit)
Akroinon (Roma ve Bizans)
Karahisâr-ı Devlet (Selçuklu)
Karahisâr-ı Sahib (Selçuklu ve Osmanlı)
Afyonkarahisar (Osmanlı ve günümüz)