1935年5月，因经费问题，国语统一筹备会被裁撤。经吴敬恒等人努力，教育部成立国语推行委员会，继续履行原国语统一筹备会之部分职能。 1935年7月28日，国语推行委员会在北平市党部召开成立大会，其主任委员为吴敬恒，常任委员为汪怡、钱玄同、黎锦熙，陈懋治、魏建功。1937年国语推行委员会因战争暂停运作，至1940年到重庆召开第二届全体会，扩大组织恢复工作。

1945年中华民国立法院通过《教育部国语推行委员会组织条例》，国语推行委员会组织正式获得法源依据。该条例规定：国语推行委员会置委员十九人至二十七人，由教育部部长聘任之；置主任委员一人，常务委员一人至三人，由教育部部长就委员中指定之；国语推行委员会全体委员会议，每年举行一次，必要时得开临时会议，常务委员会议每月举行一次，均由主任委员召集并主持；国语推行委员会得分组办事，每组置主任一人，由教育部部长指定委员兼任之；国语推行委员会置编辑二人，荐派；干事、助理干事各一人至三人，委派；国语推行委员会得用雇员一人或二人；国语推行委员会于讨论专门问题时，得聘请会外专家参加；国语推行委员会委员，除专任委员外，概为无给职，但举行会议时，出席委员得由部酌送旅费。

1946年教育部设立台湾行政长官公署国语推行委员会，主任委员魏建功；副主任委员：何容；常务委员：方师铎、李剑南、齐铁恨、孙培良、王玉川，委员：马学良、黎锦熙、林绍贤、龚书炽、萧家霖、徐叙贤、周辨明、张同光、朱兆祥、沈仲章、曾德培、叶桐、严学宭、吴守礼、王炬。1948年，台湾行政长官公署改为台湾省，原国语推行委员会改组为台湾省政府国语推行委员会。10月，在台湾出版发行《国语日报》。

1949年，中华民国政府撤退至台湾，教育部并未恢复国语推行委员会的建置，当时只有台湾省国语推行委员会维持运作。此后各县市政府陆续设置当地的国语推行委员会，例如1969年11月8日台北市政府成立台北市国语推行委员会。

1959年7月1日，台湾省国语推行委员会并入教育厅，改名”台湾省政府教育厅国语推行委员会”，继续主持台湾推行国语的工作。1981年，为加强国语文教育，根据《教育部国语推行委员会组织条例》恢复设立“教育部国语推行委员会”。2013年1月1日，随行政院功能业务与组织调整， 国语推行委员会组织与业务并入教育部终身教育司第四科，成为阅读及语文教育科的一部分。