谢三升出身于台南县学甲镇溪墘谢姓庄头，为台湾政治大学公共行政系硕士，投入反对运动。

1977年首度投入台湾省议员选举，受潘辉全、林文定支持，以“三斤稻米换无一包烟”为口号，批评国民党的农业政策，选举结果落败。

1980年，投入民意代表选举，高举“反攻无望论”、“番薯毋惊落土烂，只求枝叶代代湠”的口号，仍然落选。

1981年以党外身分当选第7届台湾省议员，有“小孔明”之称，与苏贞昌、游锡堃组成问政小组。

1984年，以台湾省政府编列超额预算违宪，发动党外16位省议员集体辞职表示抗议，亦即省议会“雾峰事件”，唯谢、苏、游三人坚持到底辞去议员席位，遂赢得“党外铁三角”美称。嗣后，连任第九、第十届省议员。