1952年10月，任中国人民志愿军第三兵团六十军军长，参加指挥了金城战役。荣获朝鲜民主主义人民共和国一级自由独立勋章。

1955年被授予中将军衔。荣获二级八一勋章、一级独立自由勋章、一级解放勋章。

1959年进军事学院学习，毕业后任南京军区参谋长。

1961年5月13日张祖谅中将因病医治无效，在上海逝世，享年50岁，同年安葬在雨花台革命军人公墓。

“我要重回60军，率领60军打翻身仗”

1951年5月的一天，川西军区司令员张祖谅惊闻噩耗：中国人民志愿军60军180师在第五次战役中遭敌包围，损失惨重，全师7000余人只突围出去300余人。60军的前身为晋冀鲁豫军区第8纵队，1949年5月改编为中国人民解放军第60军，张祖谅先是任副军长兼参谋长，后升任军长。60军奉命作为第二批部队入朝参战时，组织上考虑到张祖谅胃病缠身，川西军区又刚成立不久，剿匪、反霸、支援地方建设等诸项工作十分艰巨，便没有同意张祖谅率部出征的请求，而是安排其他将领担任60军军长率部入朝。

虽然自己不能亲自上阵，但自己亲手带出来的部队即将开赴异国疆场，而且又是与强敌作战，张祖谅还是打心眼里高兴，认为这是60军全体将士的荣誉。他无时无刻不在关注着60军在朝鲜战场上的一举一动，60军1951年3月入朝，4月14日替防后，仅4天时间就连续打退了敌人7次大规模进攻。乐得张祖谅天天盯着办公室墙上的朝鲜军用地图傻笑。幻想着自己也和战友们一道在战场上冲锋。可未曾想才一个月不到的光景，60军就遭受了前所未有的损失。成了众矢之的，甚至还有人提出要撤销180师的建制。张祖谅太了解180师了。这是他在艰苦的年代从太岳军区带出来的老部队，攻运城、破临汾、战晋中、取太原，从山西打到西北。又从西北打到西南，有过很多骄人战绩，任何人都不能简单地说这支部队不好!面对那些不负责任的言论，张祖谅的心情格外沉重，急于想赶到朝鲜弄清详情。

1952年7月，张祖谅如愿以偿地随西南军区参观学习团来到了朝鲜。一见到自己的老领导、志愿军副司令员陈赓和60军归属兵团——第3兵团代司令员王近山，张祖谅来不及寒暄，就迫不及待地询问起了60军失利时的战况。“这是志愿军赴朝作战以来最严重的一次损失。彭德怀总司令非常着急，气恼万分。”陈赓一边说着，一边取出《关于一八○师受损失事件通报》递给张祖谅看。对敌估计不足，战术运用失误。指挥失策……沉重的字眼锥得张祖谅心在滴血，眼眶也禁不住湿润了起来。沉默了许久，张祖谅猛一抬头，斩钉截铁地说道：“我要重回60军，率领60军打翻身仗!”陈赓和王近山早就盼望着张祖谅能重掌60军。只是担心他那已被老胃病折磨得疲惫不堪的身体难以承受高强度的指挥作战，一听张祖谅主动请缨，很是动情。就连打仗素以“疯子”著称的王近山也忍不住上前紧紧握住张祖谅的手。激动地说道：“希望你能回来，我马上向上级请求!”军中无戏言，等张祖谅回到成都时，中央军委任命他为60军军长的命令即已到达。在这个时候调张祖谅回60军，上上下下的期待和信任不言而喻。张祖谅也深知自己肩上的责任与压力。当即回绝了妻子王华及川西军区其他领导同志劝他把病治好再走的建议。毅然抱病出川赴任。

入朝前。令张祖谅意想不到的是毛主席要亲自接见他。当张祖谅火急火燎地赶往中南海毛泽东的住所时，毛泽东早已站在门口迎接他了。毛泽东简要讲述了人民军队战史上两个政治影响较大的战例后，语重心长地对张祖谅说：“180师的失利。除了一些客观的原因外，从主观上看，山西战场，你们60军打得好，解放大西北，解放大西南，也太顺利了。打胜仗一帆风顺是好事，但同时也孕育着失败的可能。不谨慎，不把敌人当回事，哪有不失败的!”接着，毛泽东望着张祖谅一颗掉了还没补上的牙齿，风趣地说道：“怎么办呢?我看180师北大荒不用去了。番号不用改了。你晚去几天，到协和医院把牙补上，到朝鲜后，拉大嗓门，说话声音大一些。动员部队打个翻身仗!”

毛泽东的睿智、大度和幽默，让张祖谅的心里倍感温暖。也更加坚定了率领60军走出危局、重铸辉煌的决心和信心。他把毛泽东的话提炼成“兢兢业业、小心谨慎、上下信赖、团结一致”16个字，作为自己到朝鲜打好仗的座右铭。

“就这么打，错了我负责!”

1952年10月下旬，张祖谅抵达朝鲜60军军部，受到指战员们的热烈欢迎。当时，60军刚接替68军担任文登里－汉江一线的防御任务，敌人根本不把眼前这个“败军之师”放在眼里。不仅公然在阵地上来回走动。而且肆无忌惮地晾晒衣物、唱歌跳舞。60军将士们见敌人如此猖狂，一个个咬碎钢牙，恨不得立刻上前打他个落花流水，但张祖谅深知敌人狂妄的本钱在于他们严密的防御体系，志愿军绝对不能意气用事，要改变60军面貌，必须循序渐进，从小仗打起，不断总结经验，积小胜为大胜。于是，他不分白天黑夜地到前线视察部队，教育官兵要小心谨慎，防止急躁蛮干，组织部队开展冷枪冷炮运动，挑选射击技术好的战士，隐蔽在便于观察的地方。瞅准敌人从工事里出来活动的时机，予以精确射击。此招果然灵验，11月至12月，60军各部用冷枪冷炮共毙敌3115名，平均日歼敌50名，吓得敌人连大小便都不敢走出地堡。

与此同时，张祖谅又提出开展小型反击战的“挖一块”的战术，和参谋长邓仕俊一起到前沿阵地组织小分队出击歼敌，适时扩大战果。两个月不到的时间，60军就出动小分队234次，与敌战斗43次，歼敌384名，成功地把斗争焦点推向了敌前沿阵地。1953年3月29日，180师539团8连和师侦察连的2排摸至敌一无名高地前沿阵地，仅用5分钟就全歼韩军第7师1个连，击毙敌连长以下179人，俘虏14人，还炸毁了一个弹药库，受到中国人民志愿军和朝鲜人民军联合司令部的通令表扬，极大鼓舞了全军士气。

1949年5月，张祖谅（前排右3）与战友们合影

1953年4月，因战俘问题中断了6个月的停战谈判重新开局，但敌方毫无诚意，美第8军前司令官范弗里特在美国国内公开叫嚣用军事方式解决朝鲜问题，南朝鲜总统李承晚也公然声称必要时要单独向鸭绿江进行一次全面的军事进攻。谈判丝毫没有进展。为此，根据中央和毛泽东的指示，志愿军领导决定对敌发起以打击西线美军为主的夏季攻势，以进一步改变战场态势，促进停战早日实现。4月20日，60军归属兵团——20兵团接到志愿军司令部的作战预令，兵团首长随即付予了60军攻击敌902.8、973、883.7等几座高山阵地的任务。其实，就算兵团首长不把攻坚任务交给60军。张祖谅也会主动请缨的，他早就“瞄”上这几个高地了。敌人凭借这几个高地的地形优势，俯视志愿军纵深达20千米，动辄打枪放炮，牵制了我方大量精力，他前段时间就已指挥部队趁夜色机动到敌火力死角地区挖掘坑道。并已将坑道挖至距敌前沿阵地不远的地方。可真要拿下高地。仅靠两个坑道是远远不够的。因为即便部队晚上8点就开始行动。等到达敌阵地前展开时就已是次日凌晨四五点钟，攻击战斗一旦不能在预定时间结束，志愿军势必要在白天与敌战斗。在敌拥有绝对火力优势的情况下，志愿军将陷入不利境地。

60军再也经不起折腾了，要么不打，打了就要打胜。张祖谅没有更多的回旋余地。他猛然想起了苏联卫国战争期间苏军一个小分队敌前潜伏成功的战例。于是。一个大胆的设想在张祖谅的脑中产生了：敌一个高地的守卫力量为一个建制团。志愿军需要的攻击兵力为3000至5000人，把这三五千人潜伏在敌阵地前，瞅准时机，发动迅即进攻，胜利的把握很大。然而，潜伏的部队不是一两个几十人的小分队。而是数千人的大队人马。战争史上还鲜有这样的战例，潜伏能成功吗?张祖谅开始了反复的思考……

5月上旬，20兵团召开作战会议。60军攻占敌高地成了众人关注的焦点，大家围绕战斗的突然性、减少伤亡、夺取胜利等重点问题展开了激烈的讨论。张祖谅本想提出大部队潜伏的设想。未曾想“英雄所见略同”。同是河南老乡的兵团代司令员郑维山率先提出了提前把部队隐蔽集中在敌阵地前沿的设想。潜伏作战的确不是新战术，志愿军入朝作战以来，小分队潜伏成功的战例不胜枚举，问题是几千人潜伏20个小时以上。能隐蔽好吗?能保证不被敌人发现吗?作战会上出现了少有的长时间冷场。先前对这个问题已有长期冷静思考分析的张祖谅，用他那沉稳的语调打破了会场的沉默：“我认为，阵前大潜伏完全可行!”接着，他进一步分析了潜伏成功的可能性：60军从1952年12月。对敌进行的小型反击战中，有25次都打成了歼灭战。我方对敌人的特点、地形都比较熟悉。敌阵地前沿长满茂密的灌木和野草且未遭破坏。这是隐蔽的有利地形条件；敌所在高地溪流潺潺，是隐蔽的有利声响条件；运用炮兵火力对敌实施火力干扰，做好佯动和伪装，同时严明潜伏纪律，是隐蔽的有利作战条件。最后，张祖谅稍作停顿，意味深长地说道：“用这么多兵力在敌人前沿潜伏，从来没有这样的先例，完全可以出敌不意!”

张祖谅有理有据、实事求是的分析征服了会场上的所有人，郑维山越听越有信心，向张祖谅投出了信任的目光，一拍桌子：“就这么打，错了我负责!”张祖谅也“不甘示弱”，当即表示：“我俩共同负责!”采用潜伏战术攻占敌加强团阵地的作战决心就这样定了下来。

“出其不意的歼灭战”

作战决心虽然定下来，但因为没有先例可循，将如此大规模的潜伏付诸实践，还有很多非常棘手而又不容回避的难题，这远比《三国演义》中的“空城计”更加考验一个指挥员的智慧与细致。张祖谅同其他几位军领导商量后，决定把潜伏的作战方案交给群众，发动全军官兵共同提问题，一起想办法，他还亲自到基层去参加各类人员的“诸葛亮会”。事实再一次证明张祖谅的决策是正确的，从潜伏该怎么止咳、怎么解明甚至到怎么样打喷嚏、怎么样解手，一个个问题被提了出来，一个个方法也同时被想了出来。战斗准备从前方到后方，从步兵、炮兵、工兵到作战、侦察、通信，从后勤运输到医疗救护，各方面都在有条不紊而又高度保密地进行着。为了进一步统一思想，鼓舞士气，张祖谅在军动员大会上发表了简短而富激情的演讲：“总部首长和兵团首长都关注这一仗。这是60军争取最大荣誉的一次最好机会，是彻底改变面貌的关键一仗，是一次千载难逢的打翻身仗的良机。为了60军的荣誉，一定要全力以赴，打好这一仗!”

1953年6月10日，是山峦叠嶂的朝鲜东线战场上一个平凡的日子，可对中国人民志愿军全体将士而言。却又是一个不平凡的日子，从志司、20兵团到60军军、师、团各级领导机关的心情都极为紧张，20兵团代司令员郑维山、政委张南生和新任司令员杨勇、政委王平把兵团前进指挥所设在了与60军前进指挥所同在一地、距敌前沿仅3000米的龙门山，就连60军前归属兵团3兵团的司令员许世友和副政治委员杜义德也特地赶来了解情况，大家都在关注张祖谅和60军即将创造人类战争奇迹的重要军事行动。

从9日夜里179师535团和181师542团、543团共3500名指战员，臂扎毛巾、精神抖擞地消失在距敌902.8、973高地阵地前沿200米的夜色之中起，张祖谅就一直站在地图前沉思，他清楚地知道，拥有制空权的敌人同时还拥有着230门105mm－230mm榴弹炮、130门各式迫击炮。只需几分钟的时间，他们就可以把成吨的炮弹砸向我方的潜伏区域，但他确信战前的各项准备工作万无一实。也坚信潜伏将士能克服包括流血牺牲在内的一切困难。此时此刻，60军前进指挥所里的空气是静止的，气氛是紧张的，除了偶尔响起的电话铃声和翻动电报纸的哗啦声，一根针掉在地上都能听得见。一夜相安无事，天明以后，敌我双方互射冷炮，只是我方的炮打得更为频繁一些，被蒙在鼓里的敌人对这个微妙的变化毫无察觉，他们的冷炮是名副其实且毫无目的的“冷炮”。太阳终于沿着固定的轨道缓缓移向山后，如果再平静地熬过两三个小时，潜伏就可宣布成功。奇袭也就可以开始了。可就在这个时候，敌人炮弹的爆炸声打破了黄昏前的宁静，一些炮弹落在了535团2营5连的潜伏区内，白色的烟雾弥散在夕阳下的灌木丛里，有的战士肠子被炸了出来，有的腿和胳膊被炸断了，但为了胜利，为了60军的荣誉为了不辜负军首长的重托。受伤的人都咬破嘴唇，默默忍受着痛苦的煎熬，直到流尽最后一滴血……

新的夜幕降临了。张祖谅亲自向兵团首长报告：一切准备就绪!20时20分，志愿军声东击西的炮火准备开始了。259门火炮向敌949.2高地阵地两侧山头猛烈轰击。180师540团2连和181师侦察连及543团侦察排两支小分队队也分别从两翼向949.2高地发起佯攻，敌人天真地以为949.2高地就是志愿军要夺取的目标，遂集中一切兵力火力进行还击。20时40分，3发红色信号弹骤然升空，这才是真正的进攻信号!

潜伏在敌阵地前沿的60军突击部队，犹如神兵天降。沿着13个方向，如13支利箭般向敌阵地发起冲击。一时间。杀声震天，步枪射击声、手榴弹爆炸声响彻高地。仅70分钟时间，将士们就攻占了902.8、973两座高地约10余平方千米的敌军阵地，全歼韩军第5师27团大部和师属搜索连，创造了一战歼敌1个团大部的阵地战纪录，而敌人直到70年代编写战史时都没弄明白志愿军的进攻为什么那么神速。大潜伏成功了!60军的胜利，得到了联合司令部的高度赞扬和嘉奖。也使上级和兄弟部队改变了对60军的看法。许世友拍着张祖谅的肩膀，连连说道：“张军长有魄力，把几千人潜伏在敌人鼻子底下了，出其不意，打了一个漂亮的歼灭战。”张祖谅在朝鲜战场上书写了自己作战指挥生涯中闪亮的一笔，打出了军威，打出了国威，但他坚持认为个人永远是沧海一粟，胜利归功于60军的全体将士。当他率部从朝鲜回国，张祖谅特地叫车在鸭绿江边停了下来，面对朝鲜国土三鞠躬后深情地说道：“不能忘了朝鲜人民的支援，更不能忘记永远长眠在朝鲜国土上的英雄烈士们！”

获朝鲜民主主义人民共和国一级国旗勋章、二级自由勋章各一枚。

1955年获二级八一勋章、一级独立自由勋章、一级解放勋章。