东汉羊续一向廉洁自律，反对奢华。任南阳太守期间，经常穿旧衣坐瘦马，粗茶淡饭，羊续的下属府丞焦俭见羊续生活太清苦，实在看不下去，便给他送了条活鲤鱼。面对这条“礼鱼”，羊续左右为难：不收吧，对不住焦俭的一片好心；收吧，有自己为官清廉的道德规范。但眼前焦俭的盛情难却啊，无奈之下，只好暂且收下，他收下后把鱼挂在厅堂里。有次府丞再送鱼的时候羊续领他进家里参观挂在厅堂的鱼，自此以后再也无人给羊太守送礼。这件事传开之后，府吏们为羊续的高风亮节所折服，以后再也不给他送礼行贿了，羊续就有了“悬鱼太守”的雅号，实为东汉第一廉吏。

中平六年，汉灵帝想要提拔羊续为太尉，当时太尉是个肥缺，需要给皇帝送礼，可见桓灵帝时期的贪污是从上至下的。去收礼的使者到达后，羊续只给使者送上一领乱麻做里的袍子。使者什么油水也没捞到，回去后和灵帝如实禀报，灵帝很不高兴，因此羊续未能登上三公之位。只任命为太常，还没来得及回朝，羊续就因积劳成疾加上长期营养不良病死了，享年只有四十八岁。

羊续遗言，丧事从简，朝廷当时有规定年薪二千石的官员丧葬补助费是百万财物，这个补贴羊续也拒绝了，汉灵帝下诏书表扬了一番，并让泰安郡出钱为羊续举办丧礼。

羊续之廉洁可比海瑞，可惜所处乱世，如果处于治世作为会更大。羊续的孙子就是晋抗吴名将羊祜，孙女是司马师之妻景献皇后。