Bu okul Uşak Rüşdiyesinin açıldığı yıllarda Uşak’a gelen Adanalı Himmet Dede’nin oğlu genç Hüseyin Remzi Efendi tarafından açılmıştır. O zamanlar derviş meşrep bir tüccar olan Kulalı Mehmed Ağa ile birlikte hareket eden Hüseyin Remzi Efendi kendilerinin ve yakınlarının çocuklarını okutmak üzere 1896 yılında özel bir okul açmıştır. Fakat 1898 yılı itibariyle halktan gelen yoğun talep karşısında belli bir ücret mukabilinde kız-erkek karışık karma eğitim verilen bu okulu kurmuşlardır ki adı geçen okulun adı Numûne-i Edeb olmuştur. 

Kaza Maârif Komisyonu tarafından ehliyetname verilen Hüseyin Remzi Efendi, mektebine bir ruhsatname verilmesini istid’ânâme ile talep etmiştir. Kendisinden mektebin ders programı, talîmât-ı esâsiyyesi, tercüme-i hâl varakası alınmış; bu evrak, Kaza Maˁârif Komisyonu mazbatası ve konuyla ilgili olumlu Kaza İdare Meclisi mazbatası ile birlikte Kütahya Mutasarrıflığı’na gönderilmiştir. Kütahya Mutasarrıflığı’nın evrakı, Hüdavendigâr Vilâyeti’ne havale etmesi üzerine, konuyla ilgili olarak Vilâyet Maârif Müdiriyeti’nin mütalaası alınmıştır. 

Başbakanlık Osmanlı Arşivi Maˁârif Mektûbî Kalemi’nde gördüğümüz yazışmalara göre Vilâyet, Maârif Nezâreti’nden, “bu gibi hususi ruhsatname verilecek olduğu sûretde nümûnesinin isrâsını” talep etmiştir. Maârif Nezâreti, Meclis-i Kebîr-i Maârifi, konuyu görüşmüş ve “husûsî olarak mekteb küşâdı arzûsunda bulunanlar içün îcâb iden mu’âmelenin iktizâsı(nın) ma’ârif nizamnâmesinin yetmiş dokuzuncu maddesinde mekteb mü’essis ve mu’allimlerine dâ’ir ma’lûmât(ın) dahi nizamnâme-i mezkûrun mu’allimler hakkındaki madde-i mahsûsunda münderic” bulunduğunu ifade etmiştir. Bunun üzerine de Maârif Nezâreti, Hüdavendigâr Vilâyeti’ne bilgi vermiştir. Neticede, mahallince ilgili nizamnâmeye göre mektebe ruhsatnâme verilmiştir.

Vakıfhanı binasında Hacı Remzi Efendi Tarafından 1896 tarihinde açılan Numune-i Edep Mektebi, Uşak'ta yeni sistemi uygulayan yani Kız ve erkek çocukların karışık (Karma) olarak eğitim-öğretim gördüğü ilk okul olmuştur. Mektepte, son sınıf programına Fransızca dersi konulmuştur.