Okul hakkında sahada yürütülen sözlü tarih çalışmaları kapsamında okulun Yozgat ilinde Cumhuriyet’in ilanından sonraki  dönemde açılan ilk okullardan biri olduğu bilgisine ulaşılmıştır.
Günümüzde Yozgat Sakarya Caddesinde bulunan ve halen Orta Anadolu Kalkınma Ajansı binadı olarak kullanılan yapı Sakarya İlkokulunun ilk binasıdır.

Okul sonraki dönemlerde taşınmış ve günümüzdeki mevcut adresinde eğitim öğretime devam etmektedir.