这个成语出自《汉书·路温舒传》。
西汉时期，有一个叫路温舒的人，从小喜研法律，学习刻苦努力，掌握了丰富的历史知识，熟悉当时各项律令。又由于他曾当过看守和狱吏，深知监狱的黑暗。汉宣帝即位不久，路温舒给汉宣帝上了一道《尚德缓刑书》的奏疏。在奏疏里，他引古证今，歌颂德政，抨击狱吏的罪恶，望汉宣帝崇尚仁义，减少刑罚。其中有这样几句：“狱吏滥用酷刑，犯人受不了拷打，乱编口供，而审问之人不但全信假口供，并还进行诱供。上报时便想出种种办法使上级相信罪名成立。这样一来，即使像咎繇（yóu）那样公正的人听了，也会认为判处死刑还抵偿不了他的罪恶（原文‘虽咎繇听之，犹以为死有余辜’）。望陛下广开言路，推行德政，减少刑罚，这样才能使国家兴盛，天下太平。”汉宣帝看了路温舒的奏疏非常称赞，不久就提升了他。
“死有余辜”形容罪大恶极，即使处死，也抵偿不了他的罪恶。