1956 yılında İstanbul’un Şişli ilçesine bağlı Kuştepe mahallesinde barakalarda eğitime başlayan okul, ilk kuruluşunda 2 derslik ve 112 öğrencisi ile eğitim vermekteydi. 10 yıl aradan sonra 1966 yılında yapılan bina ile düzenli eğitim-öğretime geçildi. 1992 yılına kadar sadece ilkokul olarak hizmet veren okul, 1992-1993 eğitim-öğretim yılında “Anadolu İlköğretim Okulu” adıyla ilköğretim kapsamına alındı. 1995 yılında sekiz yıllık mecburi eğitim-öğretime geçilmesiyle okula ek bina yapılarak, okul tam gün öğretime geçti. 17 Ağustos 1999’da yaşanan deprem ile ana binamız zarar gördü ve ek binada ikili öğretime geri dönüldü. Depremde zarar gören ana binanın güçlendirme çalışmalarına 2002 yılında başlandı. Şişli Belediyesi, Şişli halkı, 4. ve 5.dönem milletvekili Abdurrahman Köksaloğlu’nun eşi Emine Yaşar Köksaloğlu’nun da katkılarıyla bina depreme dayanıklı, çağdaş görünümü ile yeni kimliğine kavuştu. Yeni binasında 2003-2004 eğitim-öğretim yılında “Abdurrahman Köksaloğlu İlköğretim Okulu” adıyla eğitim vermekte iken 2012 yılında 4+4+4 eğitim sistemine geçilmesinin ardından “Abdurrahman Köksaloğlu Ortaokulu” adıyla hizmet vermeye devam etmektedir.