Okul 1967 yılında açılmış olup, Çaybaşı Yeniköy'de bulunan Çaybaşı Yeniköy İmam Hatip Ortaokuluyla binasını beraber kullanmaktadır. Bu kurumun tarihçesi ise 1942 yılında başlamıştır. 14 derslikli olan okul binası 1975 yılında yangın neticesinde tamamen yanmıştır. Bugünkü okul, şehrin iş adamlarından Ahmet Akkoç tarafından babası Hacı Mehmet Akkoç adına yaptırılmıştır. Yeni okul, binasında 1977–78 öğretim yılında ilkokul ve ortaokul olarak ayrı ayrı eğitim-öğretime başlamıştır.

   1982-1983 eğitim-öğretim yılında temel eğitim uygulamasına geçilince okul, ilkokul ve ortaokulun adları birleştirilerek “Hacı Mehmet Akkoç İlköğretim Okulu” adını almıştır. Kasım 1983’ten itibaren tek müdürlük haline gelmiştir.

   Okulun fiziki durumu yetersiz olduğundan 1998 yılında binaya üçüncü kat ilave edilmiştir. Ancak 17 Ağustos depreminde üçüncü kat hasar gördüğünden katın alınmasına karar verilmiştir. Okul bahçesine ASELSAN tarafından on derslikli prefabrike kalıcı bir bina yaptırılmıştır. Bu bina 2010-2011 eğitim yılı sonunda kullanılamayacak duruma geldiğinden yıktırılıp  yerine 8 derslikli ilkokul binası yapılmıştır. 

   2013-2014 eğitim-öğretim yılında itibaren de bağımsız ortaokul olarak eğitime hizmete devam etmektedir.