南共联盟中央布里俄尼全会后，1967——1971年任波斯尼亚和黑塞哥维那社会主义共和国议会主席。1971年7月30日任南斯拉夫社会主义联邦共和国联邦执行委员会主席（联邦政府总理）。1971年7月30日——1971年12月3日兼任南斯拉夫联邦内务部长。南斯拉夫联邦宪法规定总理一般不得连任，但在1974年3月联邦议会选举时，经铁托总统提名、破例连任总理。1974年5月南共联盟“十大”时当选为中央委员和中央主席团委员。他还是联邦国防委员会委员。

1977年1月18日从贝尔格莱德前往萨拉热窝途中，因飞机失事不幸遇难，享年60岁。

1977年1月19日，南斯拉夫联邦主席团、联邦议会和联邦执行委员会等领导机构在贝尔格莱德联合举行了追悼会。联邦议会主席基罗·格利戈罗夫致悼词。他强调指出，比耶迪奇主席在铁托总统的领导下，对发展国民经济、增进民族团结、加强全民防御、维护独立和主权以及在贯彻执行不结盟政策等方面作出了重大的贡献。

1977年1月20日，铁托总统及其夫人在访问利比亚回国后，立即前往联邦议会大厦，向比耶迪奇主席及其夫人的遗体告别，并向比耶迪奇主席的家属表示哀悼。连日来，成千上万的南斯拉夫人排着长队到联邦议会大厦，向比耶迪奇主席及其夫人的遗体告别。许多地方举行了追悼会。

1977年1月21日，南斯拉夫党和政府在萨拉热窝市为南斯拉夫联邦执行委员会主席比耶迪奇及其夫人举行了隆重的葬礼。

参加葬礼的有：南斯拉夫联邦主席团副主席维多耶·扎尔科维奇、联邦议会主席基罗·格利戈罗夫、联邦执行委员会副主席米洛什·米尼奇、多布罗斯拉夫·丘拉菲奇、安·弗拉图沙和贝·舍费尔，联邦政府各部部长，人民军高级将领，南斯拉夫各社会政治组织和各共和国及自治省的负责人。

中国驻南斯拉夫大使张海峰以及其他一些国家的外交使节也参加了葬礼。

在葬礼上，联邦主席团副主席维·扎尔科维奇和联邦执行委员会副主席安·弗拉图沙等领导人致词，深切悼念比耶迪奇主席及其夫人。

比耶迪奇在南斯拉夫历次重大斗争中积极支持铁托路线，大力推行以联合劳动为中心的南斯拉夫社会主义自治制度，是铁托的得力助手。在处理国内民族纠纷和解决共和国与联邦之间的矛盾问题上取得成绩，稳定了一度动荡的政局，受到铁托的赞赏。在稳定国内经济方面做了不少修补工作，对南经济困难起到了暂时的应急作用。在他当政期间，波黑地区的经济改革和基础设施，特别是现代化交通网络、区域供水、城市卫生和电信建设都取得了重要进展。

对外积极贯彻独立、不结盟政策，认为不结盟政策是南斯拉夫外交政策的基础，表示要和一切国家发展合作关系。主张积极争取美国的经济和技术援助，同时坚决维护独立和主权，反对外来侵略与干涉，反对美苏两霸搞交易牺牲南的利益。强调不结盟运动在反帝、反殖、反霸斗争中的重大作用。他作为政府首脑出访过世界不少国家，与世界上最有影响力的领袖：杰拉尔德·鲁道夫·福特（美国总统）、列昂尼德·伊里奇·勃列日涅夫（苏联最高领导人）、毛泽东（中国最高领导人）等都有接触和交流。比耶迪奇一直被视为铁托潜在的继承者。

1975年10月以总理身份对中国进行正式友好访问，会见了毛泽东主席、周恩来总理、邓小平副总理等中国党和国家领导人，为中南两党两国关系正常化作出了贡献。

关于杰马尔·比耶迪奇的死因，一直存在争议。1977年1月18日，比耶迪奇在贝尔格莱德的巴塔伊尼察空军基地送别铁托总统（出访利比亚）后返回萨拉热窝途中，他的专机在波斯尼亚和黑塞哥维那附近山区坠毁，比耶迪奇夫妇及随行人员遇难。持阴谋论者认为，飞机失事表面上是因为恶劣的天气条件，但实际上并非意外，而是比耶迪奇在执政期间树敌过多，开罪了在塞尔维亚的政治对手的结果。如果不是这场空难，比耶迪奇应该成为铁托的继承人。

杰马尔·比耶迪奇曾荣获南斯拉夫社会主义联邦共和国社会主义劳动英雄称号、南斯拉夫人民解放勋章、南斯拉夫社会主义联邦共和国一级共和国勋章、南斯拉夫社会主义联邦共和国一级人民功勋章、南斯拉夫社会主义联邦共和国一级各民族兄弟团结和友谊勋章、勇敢者勋章（两次）、南斯拉夫“1941年游击队员纪念章”。比耶迪奇逝世后，莫斯塔尔大学以他的名字命名。

比耶迪奇爱好打猎、步行和爬山。夫人拉齐娅·比耶迪奇。有两个儿子和一个女儿。