Şemsipaşa İlkokulu’nun tarihi 1758 yılına kadar uzanmaktadır. Kurum, Sultan III. Mustafa Han tarafından Ayazma Camii ile birlikte inşa ettirilmiş ve ilk olarak “Ayazma Sıbyan Mektebi” adıyla eğitim faaliyetlerine başlamıştır.

Daha sonraki süreçte aynı binada “Üsküdar Mekteb-i İbtidaisi” adıyla eğitim verilmiş, kurum bu yapıda 1913 yılına kadar faaliyetlerini sürdürmüştür. Türk resim sanatının önemli isimlerinden Şeker Ahmet Paşa da bu kurumun mezunları arasında yer almaktadır.

Zamanla yıpranan eski yapının yerine, 1914 yılında Sultan V. Mehmet Reşat’ın mabeyincisi Mehmet Tevfik Bey’in girişimleriyle dönemin önemli mimarlarından Kemaleddin Bey tarafından bugünkü okul binası inşa edilmiştir.

Kurum, açıldığı tarihten itibaren farklı adlarla eğitim faaliyetlerini sürdürmüştür. 1913-1917 yılları arasında “Sultan III. Mustafa Mekteb-i İbtidaisi”, 1917-1930 yılları arasında “Ayazma Vakıf İbtidai Mektebi”, daha sonraki dönemde ise “Üsküdar 21. Mektep” adıyla hizmet vermiştir. Okul girişinde yer alan Osmanlıca kitabede, yapının Müdafaa-i Milliye kaynaklarıyla yeniden inşa edildiği belirtilmektedir.

1953 yılında okul müdürü Akif Güner’in girişimleriyle İstanbul Belediyesinden satın alınan bitişik alan kuruma kazandırılmış ve eğitim alanı genişletilmiştir.

1975 yılında kurum bünyesinde “Üsküdar Ortaokulu” adıyla ortaokul bölümü açılmıştır. 1992 yılından itibaren kurum, “Şemsipaşa İlköğretim Okulu” adıyla eğitim öğretim faaliyetlerini sürdürmüştür.

6287 sayılı Kanun kapsamında 20/06/2012 tarihinde gerçekleştirilen düzenleme ile kurum; “Şemsipaşa İlkokulu” ve “Şemsipaşa Ortaokulu” olarak iki ayrı eğitim kurumu şeklinde yapılandırılmıştır. Aynı kanun kapsamında, Valilik Makamının 14/07/2014 tarihli onayıyla kurum tamamen ilkokul statüsüne dönüştürülmüştür.

Kurum, Osmanlı Devleti döneminden günümüze uzanan köklü geçmişiyle uzun yıllardır kesintisiz olarak Türk Millî Eğitimine hizmet vermeyi sürdürmektedir.