先后担任台北市教育局长、台湾省教育厅长、“台湾陆委会主委”、“行政院政务委员”、“内政部长”、“总统府秘书长”、国民党秘书长、李连教育基金会董事长、“总统府资政”、前任“群策会”副董事长兼任秘书长。2006年底，“台联党”提名的罗志明在参选高雄市长选举失利后，该党面临了未来“小党难生存”的困境。原先已淡出政坛的黄昆辉几经考虑后，终于接受李登辉等人的邀请，于2007年1月26日接掌“台湾团结联盟”（台联党）主席一职。黄昆辉出任新的党主席，开始贯彻李登辉的理念“清党”，2007年10月开除“不服党的领导”等多名立委党籍。2008年，马英九当选台湾地区领导人后，与马英九会谈，达成“台联”前任“立法委员”赖幸媛接掌“台湾陆委会主委”的共识。2016年1月，“台联党”主席黄昆辉18日表示，“台联党”这次大选遭重大挫败，他领导无方，应负全责，请辞“台联党”主席。