这个成语出自《南史·江淹传》。
南北朝有个文学家叫江淹，字文通。他从小孤贫，但努力读书，并写得一手好文章，被人们所称赞。后来，他受到齐高帝萧道成和齐武帝萧赜（zé）的重用，官至光禄大夫。从此，江淹不愿再求上进，晚年时文章越发退步。对此人们传说：江淹梦见张景阳向他索要借给他的一匹绸子，江淹便把怀里剩下的几尺还给张景阳。又梦见郭璞向他讨还一支笔，江淹把一支五彩笔也还给了郭璞。从此，江淹的文章不如从前，诗词也没有佳句，人们传说江淹的才能用完了。
后来人们从这个故事中引申出“江郎才尽”这个成语，比喻某人的才思减退或本领使尽了。