张休刚刚成年时与诸葛恪、顾谭和陈表同为太子孙登的僚友，并以《汉书》传授太子，从中庶子转为右弼都尉。孙权当时时常狩猎，每每到黄昏才回来，张休上疏劝谏，孙权对张休的上疏很满意，并向其父张昭展示张休的上疏。

孙登死后，张休被加为侍中，后拜羽林都督，平三典军事，又迁为扬武将军。后来，张休与顾谭的弟弟顾承一同跟随全琮与魏将王淩在芍陂交战，张休等人奋力迎击牵制了魏军，全琮的子侄全绪、全端等人趁机击退了王淩。此后论功行赏时，由于张休等人起到了牵制敌军的作用而获得了比全氏兄弟更大的官职，因此招致全琮的怨恨。当时太子孙和与鲁王孙霸的夺嫡之争正激烈，顾谭一族为太子孙和一党，而全琮一族属于鲁王孙霸一党，与顾氏关系亲密的张休自然也难逃全氏的攻击。于是全琮父子借着这次“芍陂论功”事件，趁机向孙权进谗言，称张休、顾承与典军陈恂有私下的往来，因此得到了更多的奖赏。