1972年自由党政府失败下台，比利·斯内登成为自由党主席。1973年后他任自由党初级产品发言人和劳动，移民问题发言人。

1975年3月在党内选举中取代比利·斯内登任自由党领袖长达14年；

1975年11月在参议员的自由党议员评价多数否决了政府的预算，造成澳大利亚的宪政危机中，最后总督约翰·克尔解除了爱德华·高夫·惠特拉姆的总理职务，任命弗雷泽为临时总理，随后弗雷泽领导的自由党与乡村党联盟在大选中取得压倒性的胜利。不过如同他的前任一样，他的联合政府在澳大利亚政治史也是争议不断。在七年中，政府提出了许多重要的改革举措，其中包括联邦与州之间的财政关系、新闻自由、建立联邦巡视官办公室负责调查和处理公民对政府工作的申诉、土著人享有土地权以及自然保护区等；但是，不断增长的失业现象使政府面临严重困难；1982年在大规模增加工资后经济转入萧条，尽管如此，很多观察家还是认为工党领袖比利·海登难以击败弗雷泽。但1983年大选前夕，海登突然辞职支持年轻的议员霍克竞选总理。鲍勃·霍克在竞选时号召全社会达成一致克服国际面临的困难，这一主张使他以绝对多数赢得选举。弗雷泽失败后退出政坛。

1983年起加入国际行动理事会，现任其主席。

1985-1986任联邦杰出人物组织主席，1987年起任“澳关怀”组织主席（该组织在华有扶贫项目）。

1989-1990年任联合国有关非洲产品问题委员会主席。他为废除南非的种族隔离辛勤工作，是许多政治事件的代言人，特别是他公开反对种族主义。他在生活中喜爱钓鱼、摄影，驾驶老爷车和摩托车。

1980年获得英国人道主义服务金奖；

1982年任牛津马格达学院研究员；

1983年任牛津大学名誉副会长；

1984年任美国公共政策协会国际研究员；

1985年任克莱尔蒙特大学国际协会理事会研究员。同年人美国南卡莱罗纳大学贝尔纳斯国际顾问理事会研究员。1989年获得澳大利亚迪金大学荣誉文学学位；

1976和1982年曾两度访问中国，获得朱德委员长和李先念主席的接见。

2015年3月20日电 据澳洲网20日报道，澳大利亚前自由党总理马尔科姆·弗雷泽因病去世，享年84岁。弗雷泽的办公室发表的正式声明公布了这一消息。

声明称：“我们以沉痛的心情告知大家这个消息，约翰·马尔科姆·弗雷泽因病于2015年3月20日上午去世。”