香川县人，1904年早稻田大学法学科毕业，起初挂牌当律师。后当选东京市议会议员，当选众议员11次。加入三菱财阀控制的民政党，曾任大藏省参与官，日本投降之初，加入鸠山领导的自由党，后以协助战犯罪被解除公职。1952年解除整肃，加入吉田自由党，后联合鸠山一郎和吉田茂对抗，结成自由党分裂派（就是鸠山领导的日本自由党），旋同改进党合流，组成民主党，联合各在野党势力推翻吉田政权，在1954年吉田下野，鸠山上台的过程中，他起了很大的作用，被称为鸠山政权之柱石。1955年由于他的活动，合并了各右翼党派，组成了议会第一大党日本自民党，三木擅长派系斗争，很会运用合纵连横的权术抑制政敌，他极端反共，有浓厚的军国主义思想，也不像吉田茂和岸信介那样驯服美国，自他死后，鸠山政权对各派系的控制力逐渐下降。