Okul, 1936-1937 eğitim öğretim yılı başında Cibali Ortaokulu adıyla, Fatih ilçesi Horhor Caddesi Bostan Sokak No:9’da bulunan ve Hatice Özkaptan’a ait Kaptanpaşa Köşkü olarak bilinen binada eğitim öğretime başlamıştır.

Okulun bulunduğu semte adını veren Cebe Ali, Mısır Memlük Sultanı Kalavun’un hocası olup daha sonra Bursa’da Zeynüddin Hâfî Hazretlerine talebe olmuştur. Dünya malına önem vermemesi ve üzerinde sürekli at çulundan yapılmış bir cebe giymesi nedeniyle “Cebe Ali” olarak anılmıştır. İstanbul’un fethi sırasında orduda ekmekçi başı olarak görev yapmış, fırınında her gün binlerce askere ekmek üretmiştir. Fetih sırasında yaklaşık üç yüz müridiyle birlikte Cibali’den şehre girerken şehit düşmüş, Fatih Sultan Mehmed tarafından şehit olduğu semte Cebe Ali adı verilmiş, bu isim zaman içerisinde halk arasında Cibali şeklini almıştır.

Okul, 22 Şubat 1945 tarihinde Kaptanpaşa Köşkü’nün çatı katında meydana gelen yangına kadar bu binada eğitim faaliyetlerini sürdürmüştür. Yangının ardından Horhor Caddesi Baba Hasan Âlemi Mahallesi No:164 adresindeki binaya taşınmış ve 1 Haziran 1945 tarihinde yeniden eğitim öğretime başlamıştır. Bu binanın da kamulaştırılması üzerine 1 Haziran 1953 tarihinde Atatürk Bulvarı üzerindeki Atatürk İlköğretim Okuluna nakledilmiştir.

1967-1968 eğitim öğretim yılı başında Vefa Himmet Sokak’ta yeni okul binasının temeli atılmıştır. Aynı dönemde okul lise statüsüne geçirilmiştir. 1968-1969 eğitim öğretim yılında, mevcut binanın yetersiz kalması nedeniyle İstanbul Manifaturacılar Çarşısında (İMÇ) kiralanan altı dükkânda eğitim öğretim faaliyetleri sürdürülmüştür.

1969-1970 eğitim öğretim yılında yapımı tamamlanan yeni okul binasına taşınılarak eğitim faaliyetlerine burada devam edilmiştir.

1984-1985 eğitim öğretim yılından itibaren Bakanlık onayıyla ortaokul birinci sınıf ve lise birinci sınıflara erkek öğrenci kabul edilerek karma eğitime geçilmiş, okulun adı Cibali Lisesi olarak değiştirilmiştir. 1993-1994 eğitim öğretim yılı başından itibaren ise İngilizce yabancı dil ağırlıklı (Süper Lise) sınıfları açılmıştır.

2012-2013 eğitim öğretim yılında okul, Anadolu İmam Hatip Lisesi statüsüne dönüştürülerek Cibali Erkek Anadolu İmam Hatip Lisesi adını almıştır. 2016-2017 eğitim öğretim yılında, 15 Temmuz 2016 hain darbe girişiminde şehit olan Prof. Dr. İlhan Varank’ın adı okula verilmiş ve eğitim öğretim faaliyetleri Cibali Şehit İlhan Varank Anadolu İmam Hatip Lisesi adıyla sürdürülmeye başlanmıştır.

Günümüzde Cibali Şehit İlhan Varank Anadolu İmam Hatip Lisesi, köklü geçmişi, tarihî birikimi ve nitelikli eğitim anlayışıyla öğrencilerini akademik, sosyal ve kültürel alanlarda geleceğe hazırlayan seçkin eğitim kurumları arasında yer almaktadır.