本为明朝副将。顺治二年（1645），自海道率兵降清。顺治五年（1648），授都督佥事，任湖广随征左路总兵。顺治六年（1649），授三等轻车都尉世职。

顺治八年（1651），从续顺公沈永忠下湖南，又从平南王尚可喜定广东，渡海收复琼州，并在琼州击败郑成功的部将黄梧。十二月，与总兵南一魁击败李定国于南宁，洪承畴命令张国柱留守广西。

顺治十七年（1660），任云南永顺镇总兵，从吴三桂围剿李定国。

康熙二年（1663），擢升云南提督。康熙三年（1664），加太子少保。康熙四年（1665），镇压迤东土司王耀祖反清起义。康熙五年（1666），镇压云南土司禄昌贤反清起义。

康熙十二年（1673），吴三桂反，张国柱首先支持吴三桂，参与三藩之乱，授定远大将军、东平公。康熙十三年（1674），攻陷衡州，进围长沙，与吴应麟拒守岳州。康熙十三年（1674），被穆占击败于长沙，张国柱败走衡州。康熙十九年（1680），清军收复湖南、贵州，张国柱逃归云南。