Okul, Cumhuriyet sonrasında Adıyaman ilinde, Adıyaman Cumhuriyet İlkokulu ve Gölbaşı’nda açılan ilkokuldan sonra, Adıyaman’da eğitim öğretime 1929 yılında açılan üçüncü okul olarak faaliyet göstermeye başlamıştır.

Zorunlu İlköğretim Yasası’nın çıktığı 1997 yılında Kömür İlkokulu ve Kömür Ortaokulu müdürlükleri, Adıyaman Valiliğinin 14.09.1999 tarih ve 15796 sayılı olurları ile Kömür İlköğretim Okulu adı altında tek müdürlük olarak birleştirilmiştir.

2012 yılında çıkarılan 6287 sayılı kanun gereği (4+4+4) eğitim sistemi kapsamında okul, Kömür İlkokulu ve Kömür Ortaokulu olmak üzere iki ayrı kuruma ayrılmış; ancak tek müdürlüğe bağlı ilkokul ve ortaokul olarak 2019-2020 eğitim öğretim yılına kadar faaliyetlerini sürdürmüştür. 2020-2021 eğitim öğretim yılı başında ise Kömür Ortaokulu’ndan ayrılarak Kömür İlkokulu olarak eğitim öğretim faaliyetlerine devam etmektedir.