Okul, 1938-1939 eğitim öğretim yılında, Karagümrük Ortaokulu adıyla Çarşamba semtindeki eski bir binada iki sınıflı olarak eğitim öğretime başlamıştır. İnşaatı tamamlanan bugünkü okul binasına ise 1939-1940 eğitim öğretim yılı başında taşınmıştır.

Okulda 1939-1940 eğitim öğretim yılından 1943-1944 eğitim öğretim yılı sonuna kadar ikili öğretim uygulanmış, 1944-1945 ile 1950-1951 eğitim öğretim yılları arasında ise normal öğretim yapılmıştır.

Eski binasının eğitim öğretime elverişsiz hâle gelmesi üzerine Fatih Kız Ortaokulu, 1951-1952 eğitim öğretim yılından 1959-1960 eğitim öğretim yılına kadar Ahmet Rasim Ortaokulu ile aynı binada ikili öğretim yapmıştır. Fatih Kız Lisesi binasının tamamlanmasının ardından Fatih Kız Ortaokulu yeni binasına taşınmış, okul yeniden ikili öğretim sistemine devam etmiştir.

1965-1966 eğitim öğretim yılından itibaren okulun adı Ahmet Rasim Ortaokulu olarak değiştirilmiştir.

1988-1989 eğitim öğretim yılında lise statüsüne kavuşan okul, Ahmet Rasim Lisesi adını almıştır. Aynı yıl yapımına başlanan ek bina, 1991-1992 eğitim öğretim yılında hizmete açılmıştır.

1995-1996 eğitim öğretim yılında ilköğretim kademesi tamamen kaldırılmış, 1997-1998 eğitim öğretim yılında ise tekli eğitim sistemine geçilmiştir.

2000-2001 eğitim öğretim yılında, sekiz yıllık zorunlu eğitim uygulaması kapsamında Nişancı Mehmet Paşa İlköğretim Okulu ile aynı binada eğitim öğretim faaliyetleri yürütülmüştür.

2013-2014 eğitim öğretim yılından itibaren okulun adı Ahmet Rasim Anadolu Lisesi olarak değiştirilmiştir.

2016 yılında mevcut okul binası yıkılarak yeniden inşa edilmiş, 2018 yılında tamamlanan modern binasında eğitim öğretime başlanmıştır. Yeni okul binasında 24 derslik, 2 laboratuvar, kütüphane, proje sınıfı, 2 mescit ve çok amaçlı salon bulunmaktadır.

2018-2019 eğitim öğretim yılında okul, adrese dayalı yerleştirme sistemi kapsamında bölgeden öğrenci kabul eden okul statüsüne geçmiştir.

2023-2024 eğitim öğretim yılı başında, yeni okul binalarının yapımı sürecinde Fatih Kız Anadolu İmam Hatip Lisesi okulumuzda misafir okul olarak eğitim öğretim faaliyetlerini sürdürmüş, bu süreçte okulda ikili eğitim uygulanmıştır. 2024-2025 eğitim öğretim yılının ikinci döneminde Fatih Kız Anadolu İmam Hatip Lisesinin kendi binasına taşınmasının ardından okulumuz yeniden tekli eğitim sistemine geçmiştir
Bugün Ahmet Rasim Anadolu Lisesi, yaklaşık bir asırlık eğitim tecrübesi, güçlü akademik kadrosu ve çağdaş eğitim ortamıyla öğrencilerini yükseköğretime ve geleceğe hazırlayan köklü eğitim kurumlarından biri olarak faaliyetlerini sürdürmektedir.