Hurriler, Hititler, Urartular, Asurlar, Kimmerler, İskitler, Medler, Persler, Makedonlar, Romalılar, Bizans, Sasaniler, Selçuklular, Saltuklu Beyliği ve Osmanlının izleri mevcuttur.
Yörede ilk kurulan şehirler Karin (Hitit yazıtlarındaki Kral Karanni'den geliyor olabilir*) ve Erzin adındadır.

Bizans zamanında Theodosiopolis şehri kurulur.
Müslümanlar şehre Kalikala (Karin Şehri*) dediler.
Türkler, adına Erzen (en sağlam anlamındadır*) der ve diğer Erzen isimli yerlerden ayırmak için Erzen-ur-Rum (Anadolu'ya ait*) olarak değiştirirler. Zamanla Arzanu'r-Rum, Arzı-Rum ve Erzurum'a çevrilir.
*https://dergipark.org.tr/tr/download/article-file/292171