Mustafa Kemal İlkokulunun kökleri, Cumhuriyet'in kuruluş yıllarına uzanmaktadır. Okulun tespit edilebilen en eski adı, Maârif-i Umûmiye Nezareti İhsaiyat Mecmuası'nın 1921 yılı kayıtlarında geçen "Camiyanı İbtidai Mektebi"dir. Bu kayıt, okulun eğitim tarihinin en azından 1921 yılına kadar geri götürülebildiğini göstermesi bakımından büyük önem taşımaktadır.

Cumhuriyet'in ilk yıllarında okul, Yağlıdere Merkez Okulu adıyla bölgenin eğitim ihtiyacını karşılayan temel eğitim kurumlarından biri olarak faaliyet göstermiştir. Uzun yıllar boyunca eğitim öğretim hizmetleri, Rumlardan kaldığı belirtilen eski bir yapıda güç şartlar altında sürdürülmüştür.

Bölge halkının eğitime verdiği önem ve gösterdiği dayanışma sonucunda, 1948 yılında imece usulüyle günümüzde okulun bulunduğu alanda yeni bir eğitim binası inşa edilmiştir. Merkez İlkokulu adı verilen bu yapı, tek katlı ve on derslikli ahşap bir bina olarak hizmete açılmış, yaklaşık kırk yıl boyunca Yağlıdere ve çevresindeki öğrencilerin eğitim aldığı önemli bir kurum olmuştur.

Zaman içerisinde öğrenci sayısının artması nedeniyle mevcut bina ihtiyacı karşılamakta yetersiz kalmış, okulda bir dönem ikili öğretim uygulanmıştır. Bu ihtiyaç doğrultusunda yapılan girişimler sonucunda 1987 yılında günümüzde kullanılan okul binasının yapımına başlanmış, yoğun çalışmalar neticesinde bina 1989 yılında tamamlanarak hizmete açılmıştır.

Yeni binanın eğitim öğretime başlamasıyla birlikte okulun kurumsal yapısında da önemli değişiklikler yaşanmıştır. 1 Eylül 1989 tarihinde okulun adı "Mustafa Kemal İlköğretim Okulu" olarak değiştirilmiştir. Böylece okul, modern eğitim anlayışına uygun fiziki imkânlara sahip yeni yapısında eğitim faaliyetlerini sürdürmeye başlamıştır.

Kurumsal gelişim süreci içerisinde okul, farklı dönemlerde değişen eğitim politikaları doğrultusunda çeşitli statüler kazanmıştır. 1999 yılında Mustafa Kemal Pansiyonlu İlköğretim Okulu (PİO) statüsüne dönüştürülmüş, 2006 yılında Mustafa Kemal Yatılı İlköğretim Bölge Okulu (YİBO) olarak hizmet vermeye başlamıştır. 2011 yılında yeniden Mustafa Kemal İlköğretim Okulu adını alan kurum, Türkiye'de uygulamaya konulan 4+4+4 eğitim sistemi kapsamında gerçekleştirilen düzenlemeler sonucunda 2012–2013 eğitim öğretim döneminde "Mustafa Kemal İlkokulu" adını almıştır.

Günümüzde eğitim faaliyetlerinin sürdürüldüğü okul binası zemin katla birlikte dört katlı olup on altı derslik kapasitesine sahiptir. Mustafa Kemal İlkokulu, yaklaşık bir asırlık geçmişi boyunca farklı isimler ve statüler altında faaliyet göstermesine rağmen, kuruluşundan günümüze kadar Yağlıdere'nin eğitim hayatında önemli bir yere sahip olmuş; yetiştirdiği öğrencilerle bölgenin sosyal, kültürel ve ekonomik gelişimine katkı sunmaya devam etmiştir.