这个成语出自《诗经·周颂·小毖》。
周朝的武王死后，儿子成王继位。由于他年纪很小，叔父周公代行政事。成王的另外两个叔父（管叔和蔡叔）先是散布流言，说周公要谋害成王，篡夺王位，使成王对周公产生了怀疑；接着又发动叛乱，想夺取周成王的政权。成王看清了两个叔父的真面目以后，命令周公领兵平息了叛乱。事后，成王说：“予其惩而毖后患。”意思是说我要把以前盲目听信两个叔父的流言一事作为沉痛的教训，今后一定要谨慎行事。“惩前毖后”即由此演变而来。
惩，警戒；毖，谨慎。这个成语意思是把以前的错误作为教训，使以后可以谨慎，不再重犯。