Eğitim ve öğretim hizmetlerinin devlet eliyle yürütülmesi düşüncesi ilk kez II. Mahmut döneminde gündeme gelmiştir. Bu döneme kadar vakıflar tarafından yürütülmüş olan eğitim ve öğretim hizmetleri, 17 Mart 1857 tarihinde Maarif-i Umumiye Nezareti uhdesine verilmiştir. Böylelikle eğitim ve öğretim hizmetlerinden sorumlu bir nazır (bakan) meclis-i vükela içinde yer almıştır. Nezaretin kuruluşuyla okullar sıbyan, rüştiye ve mekâtib-i fünün-i mütenevvia olarak üç dereceye ayrılmıştır. 

Eğitim sistemimize ilişkin ilk yasal düzenleme 1869 yılında çıkarılan Maarif-i Umumiye Nizamnamesidir (Genel Eğitim Tüzüğü). Bu tüzük ile eğitim hakkı, eğitim yönetimi, eğitim sisteminin belirlenmesi, eğitim ödenekleri, öğretmen yetiştirme ve istihdamı, taşra teşkilatı ve sınav sistemleri gibi hususlar düzenlenmiştir. Aynı zamanda merkez örgütünde ilmi ve idari olmak üzere iki daireden oluşan Meclis-i Kebir-i Maarif (Büyük Eğitim Meclisi) ile il düzeyinde Maarif Meclisleri kurulmuştur. 1872 yılında Büyük Eğitim Meclisi tek meclis haline getirilerek daireler öğretim basamaklarına göre düzenlenmiştir. Bu daireler; Mekatib-i Sıbyan (İlkokul), Mekatib-i Rüştiye (Ortaokul), Makatib-i Aliye (Yüksek Okul), Telif ve Tercüme ile Matbaalar (Yayın) daireleridir.  

1911 tarihli Maarif-i Umumiye ve Teşkilatı Nizamnamesi (Eğitim Teşkilat Tüzüğü) ile bütünsel bir yapı oluşturulmuştur. II. Meşrutiyet Dönemi sonunda Maarif Nezareti merkez teşkilatı şu dairelerden oluşmaktadır: 

• Tedrisat-ı İptidaiye Dairesi (İlköğretim Dairesi)
• Tedrisat-ı Taliye Dairesi (Orta Öğretim Dairesi)
• Tedrisat-ı Aliye Dairesi (Yüksek Öğretim Dairesi)
• Mekatib-i Hususiye Dairesi (Özel Okullar Dairesi)
• Tahrirat Dairesi (Yazı İşleri Dairesi)
• Muhasebat Dairesi (Saymanlık Dairesi)
• Sicil İşleri Dairesi
• İstatistik Dairesi
• Levazım Dairesi (Ders Araçları Dairesi)
• Evrak Dairesi
• Kurtuluş Savaşı yıllarında, İstanbul’ da Osmanlı Hükümetinin Maarif Nezareti, Ankara’da ise TBMM Hükümetinin Maarif Vekâleti olmak üzere iki eğitim bakanlığı bulunmaktaydı. 

23 Nisan 1920’de TBMM’nin açılmasını müteakip, 2 Mayıs 1920 ve 3 sayılı Kanun’la kurulan ve on bir vekâletten oluşan İcra Vekilleri Heyeti’nde (Bakanlar Kurulu) Maarif Vekâleti de bulunmaktaydı. 

1923 yılında İstanbul’da bulunan Maarif Nezareti kaldırılmış, Ankara’da bulunan Maarif Vekâleti teşkilatının İlk Tedrisat Müdürlüğü, Orta Tedrisat Müdürlüğü, Hars (Kültür) Müdürlüğü, Sicil ve İstatistik Müdürlüğü birimlerine Müsteşarlık, Yüksek Öğretim Dairesi, Teftiş Heyeti, Telif ve Tercüme Dairesi, Özel Kalem ve Evrak Dairesi birimleri eklenmiştir. Taşra teşkilatı da Maarif Müdürlükleri ve Maarif Memurlukları olarak düzenlenmiştir. 

Millî Eğitim Bakanlığı, Cumhuriyetimizin kuruluşundan bugüne kadar aşağıda belirtilen isimler altında çalışmalarını sürdürmüştür. 

• 1923-1935 yılları arasında “Maarif Vekâleti”
• 1935-1941 yılları arasında “Kültür Bakanlığı”
• 1941-1946 yılları arasında “Maarif Vekilliği”
• 1946-1950 yılları arasında “Millî Eğitim Bakanlığı”
• 1950-1960 yılları arasında “Maarif Vekâleti”
• 1960-1983 yılları arasında “Millî Eğitim Bakanlığı”
• 1983-1989 yılları arasında “Millî Eğitim Gençlik ve Spor Bakanlığı”
• 1989 yılından günümüze kadar da “Millî Eğitim Bakanlığı”
  adıyla çalışmalarını sürdürmektedir.  

Millî Eğitim Bakanlığının teşkilat yapısı çeşitli yasal düzenlemelerle değişikliklere uğramış olup günümüzdeki yapısı 14.9.2011 tarihinde yürürlüğe giren 652 sayılı Millî Eğitim Bakanlığının Teşkilat ve Görevleri Hakkında Kanun Hükmünde Kararname ile belirlenmiştir.