Diyarbakır Gazi Okulu’nun bina inşasına 1910 yılında Melikahmet Caddesi üzerinde Melikahmet Camii’nin tam karşısında başlanmıştır. Bina iki yıl içinde yani 1912 yılında bitirilmiş. Okulun planı o zamanın ünlü mimarlarından David tarafından üç derslik olarak çizilmiş ve inşaatta bu değerli zat tarafından idare edilmiştir. Okulun temeli o yıllarda ilin valiliğini yapan Celal Bey ve Maarif Müdürü Muhittin Beyler tarafından atılmıştır. Gazi Okulu 1914 yılında Numune'i Terakki adıyla öğrenime başlamıştır. 1916-1918 Birinci Cihan Savaşı yıllarında Subay Hastanesi olarak kullanılmıştır. 1919 yılında Numune İptidadisi adıyla altı derslikli ilk mektep halinde faaliyete geçmiştir. İlk müdürü Abdulkadir Beydir. 1925-1926 da Gazi İlkokulu adıyla öğrenime açıldı. Gazi İlkokulu Diyarbakır’ın en eski okulu oluşu ve uzun yıllar tek bir okul olarak ilin öğrenim ihtiyacına cevap vermesi ile il tarihindeki yeri büyüktür. Şehir merkezinin bulunduğu yer olan Melikahmet civarının okuma çağındaki çocukların okul ihtiyacını gidermek amacıyla inşa edilen okul şehir yollarının genişletilmesi nedeni ile 1963 yılında yıktırılmıştır. İki yıl süre ile Behrampaşa civarında bir evde öğretim yapmıştır. 1964 yılında Urfa Kapıda Gülşen Vakfı tarafından verilen arsa üzerinde inşa edilen okulda 1964-1968 yılları arasında öğretim yapılmıştır.
Diyarbakır’da açılan Tıp Fakültesi yer bulma nedeniyle Gazi İlkokulu Diyarbakır Ortaokuluna verilmiştir. Gazi İlkokulu da bugünkü öğretim yaptığı Şayak fabrikasının arkasındaki binaya taşınmıştır. 1968 yılından beri altı dershane ile çevrenin okuma yazma sorunlarına hizmet etmiştir. 1973 yılında okulun doğu kısmına dört dershane ilave edilerek dershane sayısı 10’a çıkarılmıştır. 1998 yılında Milli Eğitim Bakanlığı tarafından 8 yıllık eğitim kapsamında Gazi İlköğretim Okulu adını aldı. Daha sonra ilkokul ve ortaokul olarak ikiye ayrıldı. 2016-2017 eğitim öğretim yılı 4+4+4 kapsamında 05/12/2016 tarihinde 11 derslikli Gazi Ortaokulu adını almıştır.