Okulun bulunduğu alan önceleri mezarlık iken çeşitli düzenlemeler yapılarak 1939 yılında imece usulü ile okul yapımına başlanmış ve 1941-1942 eğitim öğretim yılında açılmıştır. 1950 yılına kadar İsmet İnönü İlkokulu olarak devam etmiş ve 1950 yılından sonra Savaş İlkokulu adını almıştır. 24.09.1998 tarihinde Afyon İl Milli Eğitim Müdürlüğü komisyon kararı ile Fatih Sultan Mehmet İlköğretim Okulu adını almıştır. Bu tarihten sonra da 8 yıllık eğitime geçilmiştir. Okulumuzdaki öğrenci yoğunluğu nedeniyle şu anda bulunduğumuz yeni bina 10 derslik olarak 24.12.2001 tarihinde ek bina olarak bakanlığımız tarafından yapılmış ve hizmete açılmıştır. Okul dönüşümleri sonucu İl Milli Eğitim Müdürlüğünün kararı ile okulumuz bünyesinde bulunan 7. ve 8. Sınıflar Gazi Ortaokuluna, Gazi Ortaokulunda buluna 3. ve 4. Sınıflar okulumuz bünyesine alınarak Fatih Sultan Mehmet İlkokuluna dönüştürülmüştür. Okulumuz bünyesinde bulunan eski bina, İlçe Milli Eğitim Müdürlüğü binasına dönüştürülmüştür. Şu anda bulunduğumuz binada 10 derslik 2 idari oda 1 öğretmenler odası ve 1 tane de Rehberlik servisi odası mevcuttur.