Okul, günümüzde kullanılmakta olan ve farklı dönemlerde inşa edilmiş dört ayrı bloktan oluşmaktadır. Yapım tarihleri kesin olarak bilinmemekle birlikte, binaların geçmişinin 1850 yılına kadar uzandığı değerlendirilmektedir. Yapılar, ilk olarak İngiliz rahipleri için lojman olarak inşa edilmiş, daha sonra bir dönem Rahibe Okulu olarak kullanılmıştır.

İstanbul’un işgali sırasında okul binaları İngiliz kuvvetleri tarafından karakol ve hapishane olarak kullanılmıştır. İşgalin sona ermesinin ardından bir süre yetimhane olarak hizmet veren yapılar, daha sonra Terzilik Okuluna dönüştürülmüştür.

Terzilik Okulu’nun kapanmasının ardından aynı binalarda Galip Dede İlkokulu, Kuledibi İlkokulu ve Okçumusa İlkokulu eğitim faaliyetlerini birlikte sürdürmüş; daha sonraki yıllarda bu okullar Okçumusa İlkokulu adı altında birleştirilmiştir.

İlerleyen süreçte okul binaları Pirireis Ortaokulu ile ortak kullanılmaya başlanmış, 1968-1969 eğitim öğretim yılından itibaren Okçumusa İlkokulu ve Ortaokulu olarak ikili öğretim sistemiyle eğitim vermiştir.

1988-1989 eğitim öğretim yılında ilköğretim sistemine geçilmesiyle okulun adı Okçumusa İlköğretim Okulu olarak değiştirilmiştir.

2012-2013 eğitim öğretim yılında, 6287 sayılı Kanun kapsamında eğitim sisteminde yapılan düzenleme sonucunda ilkokul ve ortaokul kademeleri birbirinden ayrılmış; 2013-2014 eğitim öğretim yılından itibaren okul Okçumusa İlkokulu adıyla tam gün eğitim öğretim faaliyetlerini sürdürmeye başlamıştır.

Bugün Okçumusa İlkokulu, tarihî geçmişi, köklü eğitim geleneği ve çağdaş eğitim anlayışıyla öğrencilerini akademik, sosyal ve kültürel alanlarda geleceğe hazırlayan seçkin eğitim kurumları arasında yer almaktadır.