历史上，羊续悬鱼拒贿的故事，一直流传到今天，说的是东汉时期南阳太守羊续为官清廉，生活极其俭朴，人称“清廉太守”。有一次，一个下属觉得太守的生活实在是太苦了，便送给羊续几条活鱼让他补补身体。羊续将鱼收下后却把鱼悬在厅堂上，没有吃。过了一些日子，那个下属又给他送来几条鱼，羊续用手指着厅堂上悬着的干鱼说：“你原先送给我的鱼，如今还挂着呢，不用再送了。”下属无奈，只好把鱼提走了，以后再也没送过鱼。后来人们便用“悬鱼”这一典故称道清廉的官吏。
羊续出身官僚家庭，祖上七代都做过高官，按照汉朝的惯例，忠臣的子孙可以直接担任郎中，成为皇帝侍卫，管理车、骑、门户，有时也从军出战。羊续出仕做官就是从担任郎中开始，后来在大将军窦武的幕府担任属官。窦武因事被治罪，羊续受到牵连，后来又在宦官打击士人做官的过程中，被禁锢不许为官十余年。羊续在家中闭门不出，静居自守。
汉灵帝中平三年（公元186年），驻守江夏（今湖北武汉）的官军发生叛乱，杀死了南阳太守秦颉，占领了南阳周围6个县的地盘，形势相当严峻。为平定叛乱，大臣们向汉灵帝建议让羊续出任南阳太守。汉灵帝很快接受了这个建议，羊续受命于危难之时前往赴任。
羊续不仅为官清廉，还有着与一般官员不同的干练和思路。面对极度混乱的南阳，他并没有如临大敌，而是穿着一身破旧的普通衣裳，未带一兵一卒，仅由一个书童领路，先到南阳所辖各县微服私访，进行实地调查研究。他每到一地，都同百姓唠叨家常，人还没到南阳府衙，已经对各地官员的好坏了如指掌。那些为非作歹、激起民愤的官吏听说后十分恐慌，立即停止了对百姓的盘剥，使局势安定了许多。在荆州刺史王敏的配合下，羊续调兵很快就平定了叛乱，叛军首领被斩首，还俘获五千余人。羊续上奏朝廷：“凡是胁从者，一律不问罪。”此后，羊续又针对当地状况连颁数道政令，从百姓利益出发，兴利除害，纠弊补偏，实施后卓有成效。南阳百姓看到新任太守如此想百姓之所想，急百姓之所急，十分拥戴这位“父母官”。
羊续生活在东汉中后期，在当时世风日下的情况下，那些权贵豪强家族，都崇尚华丽的府第、奢侈的生活，以骄奢淫逸为荣，肆意享受着搜刮来的民脂民膏。对此种污浊的世风，羊续深感厌恶，对那些权贵只顾享受，不顾百姓死活的做法更是深恶痛绝。他虽然出身官宦世家，自己也担任高官，但他自律甚严，清廉自守，过着俭朴的生活。他经常穿破旧的衣服，吃简单粗糙的饭菜，外出乘坐破败的马车。羊续为官，不讲究吃喝穿戴这些日常生活的享受，而是恪尽职守，实实在在地为民办事，清俭自守，虽生活在浊世，但自己绝不混同浊流。在奢侈贿赂之风同样盛行的南阳，有些官吏和士绅也想拉拢或讨好羊续，于是便有了前面所讲的羊续“悬鱼拒贿”的故事。
羊续调任南阳太守后，他的妻儿仍在乡下自己谋生。后来，妻子带着孩子来到南阳，只见羊续除了一套布被褥、一套旧布衣和几斗麦子外，没有任何值钱的东西。羊续劝妻子说：“我的财产仅是这些，只能养活我自己，实在是没有钱养活你们母子，你们还是回家自食其力吧。”贤惠的妻子理解了丈夫，二话没说，小住几日后领着儿子重新回乡。
羊续的政绩和影响越来越大，汉灵帝想把他调到朝廷里任太尉。但是，按当时相沿成习的规矩，凡是升任三公者都要向朝廷派来的接洽官员送巨额礼钱1000万缗。皇帝派宦官来接羊续，在进京的路上，各地官员要备厚礼迎送，羊续也必须以厚礼答谢。对于这套腐败的官场陋习，羊续实在是看不下去，也根本没有能力应酬。因而，当朝廷宦官到公府后，他没有置备酒席接待，只是把自己的旧衣烂衫拎到宦官面前说：“这就是我的全部财产。”其余的话不言自明。宦官对羊续的穷酸相早已心生反感，回到朝廷后添枝加叶地向汉灵帝做了禀报。汉灵帝听后也觉得像受辱一般，一怒之下只让羊续做了太常。可怜羊续积劳成疾，没等上任就病故了，享年48岁。
羊续不仅活着的时候不贪不占，勤于政事，临终还嘱咐家人丧事从简薄葬，切莫大操大办，浪费国家财物。别人赠送的礼钱，一律不准收受。按当时朝廷的规矩，像羊续这样的官职，去世后应得的丧葬费100万缗，后来也被其家人全部上缴国库了。
羊续悬鱼拒贿，浊世清流的品格，成了史学家笔下“廉吏”的典范，《后汉书》曾为羊续专门立传。明朝于谦曾经吟诗称赞羊续：“剩喜门庭无贺客，绝胜厨传有悬鱼。清风一枕南窗卧，闲阅床头几卷书。”可谓是羊续清苦廉明一生的真实写照。
有道是：青出于蓝而胜于蓝。羊续的孙子羊祜，是西晋开国元勋，著名战略家、军事家、政治家和文学家。羊祜博学能文，清廉正直，名德远播，朝野尊仰，他大权在握，许多政治上的大事皇帝都要同他商讨定夺，但功高不盖主，权重不妄为。羊祜的女婿曾劝他添置私产，但他告诫子女：“官吏怀有私心就会背弃公家利益，这是极其糊涂的人。你们应该懂我的心意。”祖孙同廉，传为美谈。