1935年5月，因經費問題，國語統一籌備會被裁撤。經吳敬恒等人努力，教育部成立國語推行委員會，繼續履行原國語統一籌備會之部分職能。 1935年7月28日，國語推行委員會在北平市黨部召開成立大會，其主任委員為吳敬恒，常任委員為汪怡、錢玄同、黎錦熙，陳懋治、魏建功。1937年國語推行委員會因戰爭暫停運作，至1940年到重慶召開第二屆全體會，擴大組織恢複工作。

1945年中華民國立法院通過《教育部國語推行委員會組織條例》，國語推行委員會組織正式獲得法源依據。該條例規定：國語推行委員會置委員十九人至二十七人，由教育部部長聘任之；置主任委員一人，常務委員一人至三人，由教育部部長就委員中指定之；國語推行委員會全體委員會議，每年舉行一次，必要時得開臨時會議，常務委員會議每月舉行一次，均由主任委員召集並主持；國語推行委員會得分組辦事，每組置主任一人，由教育部部長指定委員兼任之；國語推行委員會置編輯二人，薦派；幹事、助理幹事各一人至三人，委派；國語推行委員會得用雇員一人或二人；國語推行委員會于討論專門問題時，得聘請會外專家參加；國語推行委員會委員，除專任委員外，概為無給職，但舉行會議時，出席委員得由部酌送旅費。

1946年教育部設立台灣行政長官公署國語推行委員會，主任委員魏建功；副主任委員：何容；常務委員：方師铎、李劍南、齊鐵恨、孫培良、王玉川，委員：馬學良、黎錦熙、林紹賢、龔書熾、蕭家霖、徐敘賢、周辨明、張同光、朱兆祥、沈仲章、曾德培、葉桐、嚴學宭、吳守禮、王炬。1948年，台灣行政長官公署改為台灣省，原國語推行委員會改組為台灣省政府國語推行委員會。10月，在台灣出版發行《國語日報》。

1949年，中華民國政府撤退至台灣，教育部並未恢複國語推行委員會的建置，當時只有台灣省國語推行委員會維持運作。此後各縣市政府陸續設置當地的國語推行委員會，例如1969年11月8日台北市政府成立台北市國語推行委員會。

1959年7月1日，台灣省國語推行委員會並入教育廳，改名”台灣省政府教育廳國語推行委員會”，繼續主持台灣推行國語的工作。1981年，為加強國語文教育，根據《教育部國語推行委員會組織條例》恢複設立“教育部國語推行委員會”。2013年1月1日，隨行政院功能業務與組織調整， 國語推行委員會組織與業務並入教育部終身教育司第四科，成為閱讀及語文教育科的一部分。