朱汇森生于1911年11月15日（清宣统三年九月二十五）。中央大学教育系毕业，后又入中央政治学校及美国密歇根州立西部大学研究院深造。曾在教育部和中央组织部任科员、科长等职。1948年任台湾省教育厅秘书。1952年出任台南师范学校校长，同时兼任“中国青年反共救国团”台南市支队队长，后调任台湾省教育厅第四科科长。1960年改任台中师范学校校长。1962年兼任台湾省教育厅主任秘书。1967年调“教育部”任社会教育司司长，1968年12月升任常务次长，1972年6月改为政务次长。1978年6月升任“教育部”部长，后还兼任中国国民党中央青年工作会委员。1984年6月改任“国史馆”馆长。1990年11月受聘为“总统府”顾问。他还曾任“国家科学委员会科学教育组”主任及中国国民党台湾省党部副主任委员，并当选为中国国民党第十二届中央委员，被聘为第十三、十四、十五届中央评议委员。