Erzincan Lisesi’nin kökeni 1882 yılında yapımına başlanan bir eğitim binasına dayanır. İlk olarak Rüştiye-i Askeriye (askeri ortaokul) olarak inşa edilmiş ve 1884 yılında eğitime açılmıştır. Rus işgali sonrasında okul binasında Numune Mektebi açılmıştır; bu dönemde eğitimde aralıklar olmuştur.  “İdâdî Mektebi” olarak lise eğitimine geçiş
Osmanlı döneminde II. Abdülhamit zamanında, 1886–1905 yılları arasında yapılan yazışmalar sonucu okul, 1905’te “Erzincan İdâdî Mektebi” olarak açılmış ve liseye denk eğitim vermeye başlamıştır. Ancak Birinci Dünya Savaşı, Rus işgali ve Kurtuluş Savaşı gibi tarihi olaylar yüzünden eğitim dönem dönem kesintiye uğramıştır. Cumhuriyetin ilk yıllarında okul içinde bir ortaokul bünyesinde lise hazırlık sınıfı açılmıştır. 1939’daki büyük Erzincan depreminde okul binası tamamen yıkılmış; eğitim bir süre durmuştur. Yeni okul binasının temeli 1944’te atılmış ve 15 Ekim 1946 tarihinde eğitim-öğretime açılmıştır.
30 Eylül 1948’de bina tabelası “lise” olarak değiştirilmiş ve okul bugünkü anlamda lise faaliyetlerine başlamıştır
Uzun süre 1948 kuruluş yılıyla bilinen Erzincan Lisesi’nin tarih çalışmaları sonucunda, Milli Eğitim Bakanlığı kararına göre resmen “kuruluş yılı 1905” olarak kabul edilmiştir. Bu tarihsel değişiklik akademik araştırmalarla ve MEB onayıyla gerçekleştirilmiştir.1961-62 öğretim yılında okul bünyesinde Erzincan Akşam Lisesi açılmıştır. 1993-94 öğretim yılıyla okulda “Yabancı Dil Ağırlıklı Lise” (süper lise) uygulaması başlatılmıştır. Geçen süreçte okuldan ayrılan bölümlerle Ticaret Lisesi ve Cumhuriyet Ortaokulu gibi yeni eğitim kurumları da ortaya çıkmıştır. Erzincan Lisesi, yüz yılı aşkın köklü geçmişinde çok sayıda mezun yetiştirmiştir ve 30 Haziran 2010 tarihinden itibaren Anadolu Lisesi formatında eğitim-öğretim vermektedir. 
Okulda ayrıca geçmişe ışık tutan bir Eğitim Tarihi Müzesi de faaliyet göstermektedir; burada okulun tarihi eserleri, ders materyalleri ve özellikle Atatürk’e ait piyanolar gibi önemli objeler sergilenir