Okul, Vali Süleyman Sami Bey döneminde 12 Ekim 1925 tarihinde, 52.980 liraya müteahhit Asım Tanıl ve şeriki Sadi Kumbaracı’ya ihale edilmiştir. İhaleden sonra okul arsası istimlâk edilmiş ve gerekli işlemler tamamlandıktan sonra müteahhide teslim edilmiştir.

4 Mart 1925 tarihinde inşaata başlanmış ve yaklaşık bir yıl içinde tamamlanmıştır. Daha sonra, ihale bedeline ek olarak yapılan keşiflerle yaklaşık 12 bin lira daha ilave edilmiş, böylece okulun toplam maliyeti 64.153 liraya ulaşmıştır.

Bina, Cumhuriyet’in ilk yıllarında inşa edilmiş olması nedeniyle Osmanlı mimarisi özelliklerini taşımaktadır. Dış cephesi çini süslemelerle kaplıdır. Pencereler oval formda olup sayıca fazladır. Her cephede dört pencere bulunmakta, aralarında dikdörtgen yarım sütunlar yer almaktadır. Giriş kapısında Osmanlı mimarisine özgü cumbalı balkon özelliği görülmektedir. Kapı çevresinde çini bezemeler ve Osmanlı süsleme sanatına ait kabartmalar bulunmaktadır.

Okul, 1926 yılında “T.C. İstanbul Karagümrük 27. Mektep Başmuallimliği” olarak eğitim öğretime başlamıştır. Daha sonra Mihrimah Sultan İlkokulu adını almış, ardından bulunduğu semte istinaden Karagümrük İlkokulu olarak anılmıştır.

1997 yılında, sekiz yıllık zorunlu eğitime geçilmesiyle birlikte okulun adı Akşemsettin İlköğretim Okulu olarak değiştirilmiştir.

2012 yılında, 4 yıllık ilkokul sistemine geçilmesiyle birlikte kurum Akşemsettin İlkokulu adını alarak eğitim öğretim faaliyetlerine devam etmektedir.