Diyarbakır Gazi Okulu’nun bina inşasına 1910 yılında Melikahmet caddesi üzerinde Melikahmet Camii’nin tam karşısında başlanmıştır. Bina iki yıl içinde yani 1912 yılında bitirilmiş. Okulun planı o zamanın ünlü mimarlarından David tarafından üç derslik olarak çizilmiş ve inşaatta bu değerli zat tarafından idare edilmiştir. Okulun temeli o yıllarda ilin valiliğini yapan Celal bey ve maarif müdürü Muhittin beyler tarafından atılmıştır. Gazi okulu 1009 14 yılında numuneyi terakki adıyla öğrenime başlamıştır. 1916-1918 birinci cihan Savaşı yıllarında subay hastanesi olarak kullanılmıştır. 1919 yılında numune iptidadisi adıyla altı derslikli ilk mektep halinde faaliyete geçmiştir. İlk müdürü Abdulkadir Beydir. 1925-1926 da gazi ilkokulu adıyla öğrenime açıldı. Gazi ilkokulu Diyarbakır’ın en eski okulu oluşu ve uzun yıllar tek bir okul olarak ilin öğrenim ihtiyacına cevap vermesi ile il tarihindeki yeri büyüktür. Şehir merkezinin bulunduğu yer olan Melikahmet civarının okuma çağındaki çocukların okul ihtiyacını gidermek amacıyla inşa edilen okul şehir yollarının genişletilmesi nedeni ile 1963 yılında yıktırılmıştır. İki yıl süre ile Behrampaşa civarında bir evde öğretim yapmıştır. 1964 yılında urfa kapıda Gülşen vakfı tarafından verilen arsa üzerinde inşa edilen okulda 1964-1968 yılları arasında öğretim yapılmıştır.
Diyarbakır’da açılan tıp fakültesi yer bulma nedeniyle Gazi ilkokulu Diyarbakır ortaokuluna verilmiştir. Gazi ilkokulu da bugünkü öğretim yaptığı Şayak fabrikasının arkasındaki binaya taşınmıştır. 1968 yılından beri altı dershane ile çevrenin okuma yazma sorunlarına hizmet etmiştir. 1973 yılında okulun doğu kısmına dört dershane ilave edilerek dershane sayısı 10’a çıkarılmıştır. 1998 yılında milli eğitim bakanlığı tarafından 8 yıllık eğitim kapsamında gazi ilköğretim okulu adını aldı. Daha sonra ilkokul ve ortaokul olarak ikiye ayrıldı. 2016-2017 eğitim öğretim yılı 4+4+4 kapsamında 05/12/2016 tarihinde 11 derslikli Gazi Ortaokulu adını almıştır.

Gazi İlkokulu şu an binası yıkılmış olup  Yeni Diyarbakır Anadolu Lisesinin binasında hizmet vermektedir. Ortaokul kısmı da Yenişehir ilçesinin şehitlik semtinde eğitime devam etmektedir.