征讨田虎时，张横随李俊水灌太原城，协助张顺斩杀守将张雄，并夺取太原北门。

征讨王庆时，张横随军夺取云安州，而后与张顺一同负责留守。班师回朝后，张横对不许梁山诸将擅自入城的诏令非常不满，便与李俊、三阮等水军头领去请军师吴用做主，表示要劫掠东京，复回梁山落草。但吴用却不敢主张，张横等人只得作罢。

征讨方腊时，张横斩杀润州统制官潘文得。后与石秀、张顺一同收复嘉定。宋江准备攻打杭州时，命张横与阮小七、侯健、段景住由海路进发，到杭州南门外放炮树旗，惊扰南军。四人在即将驶入钱塘江时，却被大风打破座船。侯健、段景住落海而死，张横与阮小七则跳水逃生。

杭州之战，守将方天定在涌金门指挥部众射死了张顺。张顺灵魂不散，杭州城破时缠住方天定，一直跟到五云山脚下，正好遇到哥哥张横，他便附上张横肉身，借张横之手斩杀方天定。张横清醒后，听闻兄弟战死，当场悲伤过度晕倒，后染上瘟疫，被寄留在杭州。江南平定时，张横已在杭州病逝，被追封为忠武郎。

南宋初年，太行山一带有义士张横，曾聚众抗金。小说《水浒传》中的张横或有糅合其形象。

宋元时期的《大宋宣和遗事》中，宋江三十六部下中有“火船工张岑”、“一丈青张横”，此外还提到海贼李横，都有可能是张横的原型。《大宋宣和遗事》被认为是《水浒传》的雏形或蓝本。

而在被认为是《水浒传》另一雏形或蓝本的《宋江三十六人赞》中，张横亦在其中，绰号为“船火儿”。作者龚开还附有赞言：“太行好汉，三十有六，无此火儿，其数不足。”

船火儿，即摇橹船夫。《宋会要辑稿》第一百八十三册：“每只合销梢工四人，摇撸四枝，用火儿四名。”北宋江休复《江邻几杂志》：“江南一节使，召相者，命内子立群婢间，令辩之，相者云：‘夫人额上，自有黄气。’群婢皆窃视，然后告之。柁工火儿杂立，使辩何者是柁人，云面上有水波纹，亦用此术。”可见两宋时，除了舵工以外，其他的船工都可称为“火儿”。

也有人认为，“火”通“伙”，是指同一职业者的小头目。“船火儿”指的就是一群使船人的首领。

七尺身躯三角眼，黄髯赤发红睛。浔阳江上有声名。冲波如水怪，跃浪似飞鲸。

恶水狂风都不惧，蛟龙见处魂惊。天差列宿害生灵。小孤山下住，船火号张横。

金圣叹：阮小二、阮小五、张横、张顺，都是中上人物。

李卓吾：张横、阮小七真是忠义，若定要计算利害，如何做得，可恨俗人专以成败相人也。

俞万春的《荡寇志》中，张横随林冲守濮州，城破逃跑时被苟桓擒获，监禁于大名府。后押赴京城，凌迟处死。

程善之的《残水浒》中，张横在梁山失陷后随宋江逃亡，企图北投金国，路经海州时被张叔夜擒获，递解京师，打入大牢。

巴孤的《贼三国》中，张横是宋国宁东将军、青州牧。后接替张顺，统领黄河水师。颖水之战后与宋国决裂，率部投奔徐州。

姜鸿飞的《水浒中传》中，张横随征方腊，与弟弟张顺一同战死于杭州涌金门。

张恨水的《水浒新传》中，张横参与抗金，在惠民河凿沉金军船只，欲生擒落水的银环金将，将其拦腰抱住，却不慎被利刃豁伤胸胁。他流血过多，气力不济，结果被金将抱住腿部，挣扎不得，最终沉入水底而死。

而在褚同庆重撰的《水浒新传》中，张横和童氏兄弟称霸于揭阳岭、浔阳江，与揭阳镇周通并称两霸。他在梁山排第二十九位，星号天刚星，担任水军正将，镇守左泊水寨。最终随宋江受招安。

在王派扬州评话中，张横的形象与原著大致相符，多加了是李俊部下的设定。

传统京剧《揭阳岭》中，有张横这一角色，形象与原著中并无太大不同。

1972年电影《水浒传》，何汉洲饰演张横。

1975年电影《荡寇志》，何汉洲饰演张横。

1983年电视剧《水浒传》，王晶饰演张横。

1998年电视剧《水浒传》，兰恭英饰演张横。

2011年电视剧《新水浒传》，刘科饰演张横。