Çengelköy İlkokulu’nun temelleri, 1897 yılında inşa edilen eğitim binasıyla atılmıştır. Kurumun adı, 1901 yılında Saray tarafından “Çengelköy Havuzbaşı Mektebi İptidai Rüştisi” olarak belirlenmiştir. İlerleyen yıllarda “28. Mektep” adıyla hizmet veren kurum, 2013 yılından itibaren Çengelköy İlkokulu adıyla eğitim faaliyetlerini sürdürmektedir.

Okul binası, saraya ait arazi üzerine, dönemin Çengelköy ileri gelenlerinin katkılarıyla inşa edilmiştir. Yapım sürecinde Ahmet Sırrı Paşa, Arif Paşa, Hacı Cemal Bey, Saray Mektupçusu Mehmet Sadi Bey, Matbaacı Bekir Efendi, Hasip Paşa, Mehmet Ali Bey, Hasan Bey ve Eski Ayan Reisi Çengelköylü Ahmet Bey’in önemli katkıları olmuştur.

Kuruma atanan ilk öğretmen Osman Nuri Efendi’dir. Okulun açılmasının ardından Hacı Ömer Efendi Camii ve Kerime Hatun Camii bünyesinde faaliyet gösteren sıbyan mektepleri kapatılarak öğrencileri bu kuruma nakledilmiştir.

Kurumun kuruluş amaçlarından biri Çengelköy’e resmî bir rüştiye kazandırılmasıdır. Bu hedef gerçekleştirilememiş olmakla birlikte, 1910 yılına kadar bölgedeki eğitim ihtiyacı özel bir rüştiye tarafından karşılanmış, daha sonra Beylerbeyi Resmî Erkek Rüştiyesi kurum binasına taşınmıştır. Bu gelişmenin ardından kurum, “Beylerbeyi Erkek Numune Mektebi” adını almış; 1923 yılında ise beş sınıflı karma eğitim veren bir okul niteliğine kavuşmuştur.

Zaman içerisinde kurum binasına çeşitli eklemeler ve yenilemeler yapılmıştır. 1914 yılında yemekhane, 1935 yılında ise iki derslik ilave edilmiştir. Kurum; 1957, 1958, 1971 ve 1975 yıllarında kapsamlı bakım ve onarımlardan geçirilmiştir. 1975 yılında kaloriferli ısıtma sistemine geçilmiş, aynı dönemde kalorifer dairesine bitişik bir lojman inşa edilmiştir.

1979 yılında Profilo Holding A.Ş.’nin katkılarıyla 70 metrekarelik ek bina yapılmış ve kurum bünyesinde okul öncesi eğitim faaliyetleri başlatılmıştır. 1993-1994 eğitim öğretim yılından itibaren sekiz yıllık kesintisiz eğitime geçilmiş ve kurumun adı Çengelköy İlköğretim Okulu olarak değiştirilmiştir.

2001 yılında Üsküdar Belediyesi tarafından mutfak, Okul Aile Birliği Odası ve Öğretmenler Odası kuruma kazandırılmıştır. 2004-2005 eğitim öğretim yılında müştemilat ve kalorifer dairesi yıkılarak, 300 metrekare taban alanı üzerine dört derslik, çok amaçlı salon, kütüphane ve revir odası inşa edilmiştir.