府丞曾向羊续进献一条活鱼，羊续接受后将鱼挂在厅堂之上。等府丞再次送鱼，羊续就拿出之前所悬挂的鱼给他看，以示拒绝。因此，世人称羊续为“悬鱼太守”。

羊续的妻子带着儿子羊秘从泰山郡前往南阳郡官舍去看望羊续，羊续闭门不让妻子进入，仅让儿子羊秘进屋，向儿子展示自己所有的资产：只有布被、短衣、盐和麦数斛而已。羊续回头对羊秘说：“我自己就这些东西，我拿什么给你母亲呢？”然后让羊秘和其母亲返回泰山郡。

中平六年（189年），汉灵帝刘宏任命幽州牧刘虞为太尉，刘虞推辞，向刘宏推荐羊续等人，刘宏便下诏书任命羊续为太尉。当时官拜三公的人，都要往西园缴纳一千万的礼钱，由宦官担任使者负责收取，名为“左驺”。左驺前来宣布诏令，很多官员都会毕恭毕敬，甚至向其行贿。而羊续则让左驺坐在一张席子之上，并拿出一件破旧的棉袄给左驺看，说：“臣能资助的，就这件棉袄而已。”左驺返回朝廷后，向刘宏汇报，刘宏不高兴，于是作罢。之后刘宏仍然拜刘虞为太尉，刘虞也一贯有清廉的名声，加上平定张纯叛乱有功，刘宏特意免去刘虞的礼钱。

刘宏又改任命羊续为太常，也可免去礼钱。羊续还没来得及往雒阳赴任，就得病而卒，时年四十八岁。羊续临终时留下遗言，要求薄葬，不接受礼钱。按照朝廷规矩，二千石的官员逝世，朝廷拨款一百万用于葬礼，府丞焦俭遵照羊续的遗愿，拒绝了这笔费用以及其他人的捐赠。汉灵帝刘宏得知，下诏书称赞羊续的品德，并让泰山郡太守从当地政府拨款赏赐给羊续的家人。

范晔：伋牧朔籓，信立童昏。诗守南楚，民作谣言。奋驰单乘，堪驾毁辕。范得其朋，堂任良肱。二苏劲烈，羊、贾廉能。季宁拒策，城陨冲輣。

周昙：鱼悬洁白振清风，禄散亲宾岁自穷。单席寒厅惭使者，葛衣何以至三公。

于谦：喜剩门前无贺客，绝胜厨传有悬鱼。清风一枕南窗卧，闲阅床头几卷书。

南阳在当时是富庶之地，而南阳太守在时下官僚眼中更是“肥缺”。虽说此地富庶，不是说老百姓富有，而是富豪云集，且贿赂官府出手阔绰，前几任太守在南阳为官都赚得盆满钵满。而羊续却“富差事穷当”，断然与当地富豪保持距离，不与他们有任何经济来往，办案时更是“丁是丁、卯是卯”。有位郡丞从羊续随从的口中得知，羊续没别的爱好，就爱吃鱼，就特地让人打捞了一条名贵的大鱼亲自送来。羊续十分为难，他想，如果不收，就扫了郡丞的面子；如果收下，又怕其他官员纷纷效仿。于是，他灵机一动，很客气地将鱼收下了，既没吃也没送人，而是将鱼“悬于庭”。 那位郡丞不久后又送鱼来，羊续便指着庭院中的那条鱼说“你上次送的鱼，我还没吃完，怎好再收？”郡丞一听便明白了羊续的用意，惭愧地走了。南阳境内其他官员和富豪经常打听那条鱼的情况，以便能送鱼给羊续“略表心意”，但是直到鲜鱼变成干鱼，鱼还依然挂在庭院中，郡中官吏十分震惊，从此，再也没人敢送礼了。这行径成为了古代官员廉洁的榜样，因此后世有“前庭悬鱼”、“羊续悬鱼”、“挂府丞鱼”的成语传世。

羊续独自一人在城里做官，家人一直住在乡下过着俭朴生活。为了沾光好办事，羊续的族人便自发凑起盘缠，让羊续的妻儿到南阳找羊续。到了郡衙，门卫通报后，羊续却拒而不见，不让门卫开门，并传令让她们赶快回家去，不要想着进城享受荣华富贵。受此待遇，羊续的妻儿非常生气，不顾当差的阻拦硬是闯了进去，羊续见到面黄肌瘦的妻儿，心里十分酸楚，他一言不发地把妻儿领到自己的住处。那房子又小又破，家陡四壁，所有的财产就是一床破旧的布被褥、一套破旧的短布衣、几斗麦子、一点盐。羊续坦然地对妻儿说：“你都看到了，我的财产就这些，连我自己都难养活，你让我怎么留下你们？但我这里要比流离失所的老百姓不知要好上多少倍！作为南阳太守，我有责任让老百姓衣食无忧，过上好日子，若是你们母子留下来了，我整天要为全家人的三餐发愁，哪还有心思为这里的老百姓做事？做这个太守还有什么意义？还不如跟你们回乡种田呢！还是回去吧，我也没什么礼品带给乡亲们，要么就告诉他们没见到我，要么就代我问声好吧！”妻儿见此境况默默地离开了。

祖父：羊侵，司隶校尉

父亲：羊儒，太常卿

羊秘，羊续长子，曹魏京兆太守。

羊衜，羊续中子，曹魏上党太守，迎娶孔融和蔡邕之女。

羊耽，羊续少子，曹魏太常，迎娶辛宪英。

羊祉，羊秘之子，魏郡太守。

羊繇，羊秘之子，字堪甫，车骑掾。

羊发，羊衜之子，都督淮北护军。

羊承，羊衜之子，早夭。

羊徽瑜，羊衜之女，晋景帝司马师继室，追谥“景献皇后”。

羊祜，羊衜之子，字叔子，西晋太傅，一代名将。

羊瑾，羊耽之子，西晋右仆射，孙女羊献容是晋惠帝、前赵皇帝刘曜的皇后。

羊琇，羊耽之子，字稚舒，西晋中护军。

羊氏，羊耽之女，嫁给淮南太守夏侯庄，晋元帝外祖母。

1994年电视剧《东方小故事之羊续悬鱼》：计镇华饰演羊续。