Eğitim ve öğretimin belli bir yerden ve devlet hizmeti olarak yürütülmesi gereği düşüncesi ilk kez II. Sultan Mahmut döneminde (28 Temmuz 1808- 2 Temmuz 1839) ortaya atıldı. Maarif-i Umumiye Nezareti 17 Mart 1857’de kuruluncaya kadar eğitim ve öğretim işleriyle Mekâtib-i Rüşdiye (1838), Meclis-i Maarif-i Umumiye (1841), Mekâtib-i Umumiye Nezareti (1847) adlı kuruluşlar uğraştılar. Nezaretin kuruluşuyla nazırlığa getirilen Abdurrahman Sami Paşa döneminde okullar üç dereceye ayrıldı:

1) Sıbyan,
2) Rüştiye,
3) Mekâtib-i fünun-ı mütenevvia.

Daha sonra Maarif-i Umumiye Nizamnamesi yayımlandı ve bir kurul niteliğindeki Meclis-i Kebir-i Maarif oluşturuldu. Müslüman olmayanların ve yabancıların eğitimiyle ilgili yönetmelikler 1892 yılında çıkarıldı. 1908’de II. Meşrutiyet’in ilanından sonra, Maarif-i Umumiye Nezareti’nde önemli düzenleme ve düzeltmeler görüşüldü. Tedrisat-ı İptidaiye (İlköğretim), Tedrisat-ı Taliye (Ortaöğretim), Mekâtib-i Hususiye (Özel Okullar) daireleri kuruldu ve nezaretin merkez örgütlenmesiyle ilgili yeni birimler oluşturuldu. Osmanlı Devleti’nin Maarif Nezareti İstanbul’da çalışırken 2 Mayıs 1920’de TBMM hükûmeti kurulunca Ankara’da da Maarif Vekaleti oluşturuldu.