据《左传·僖公二十三年》记载，春秋时期，晋国公子重耳被晋献公逼走，在外流亡十几年，公元前640年，他来到楚国，受到楚成王的欢迎。
一天，楚成王与重耳去狩猎，楚成王连续射中一鹿一兔。这时，前面出现一头人熊，重耳张弓搭箭，暗暗祝祷：“如我能归晋为君，此箭中其右掌。”说完飕（sōu）地一箭，正穿人熊右掌之上，楚王连声赞叹。席间，楚王说：“公子如能返回晋国，怎样报答寡人？”重耳不卑不亢地说：“若托君王之福，得归晋国为君，愿与贵国友好，以安百姓。如不得已两国交战，当命晋军退避三舍，以报厚待之恩。”
四年以后，重耳归国即位，史称晋文公。他改革政治，整顿军队，发展生产，任用贤人，准备称霸中原。这时，楚国也强大起来，不断向中原扩张势力。公元前633年，楚国围攻宋国，宋国向晋文公求救，文公亲自率领三军前去救援。
两军摆开阵线，狐偃向文公说：“当初主公说过，要是两国交兵，愿退避三舍，可不能失信。”文公传令退兵，直退了三舍，停驻城濮（pú）。楚军元帅成得臣骄傲自满，见晋军退避，便命令部队前进，行军九十里，追上了晋军。双方兵力，楚众晋寡，文公担心难以取胜。狐偃又说：“今日对垒，势在必战。战而胜，可以称霸诸侯；即使不胜，也足以固守。”文公觉得此话有理，忧虑全消，决定明天与楚军一战。
次日交锋，晋军采用计策，大败楚军。文公传令，只要把楚兵逐出宋国国境就行了，不必过多擒杀，伤了两国之情，有负楚王当年施惠之恩。这就是历史上有名的“城濮大战”。晋军“退避三舍”一时传为佳话，晋国的声威从此大震，晋文公也成为春秋五霸之一。
舍：古时行军三十里为一舍。人们用“退避三舍”作成语，比喻对人让步或回避。