Mahallenin eski adı 'Kamber' yöresel ifade ile 'Gamber' dir.Mahallenin sınırları içerisindeki taş ocağından çıkan ve yörede kıymetli olan Kamber Taşı'nın renginden dolayı ismi Kırmızıtaş olarak değiştirilmiştir.Erzurum müzesini zenginleştiren en önemli eski eserler mahallenin girişinde bulunan "İkiz Tepeler" diye tabir edilen iki tepeden çıkarılmıştır. 1970'li yıllarda yabancılar tarafından çıkarılan bu eserlerin küçük bir bölümü Erzurum'da kalmış büyük bir kısmı ise yabacı ülkelere aktarılmıştır.