这个成语出自《左传·僖公十四年》。
春秋时期，晋国公子夷吾因内乱出逃后，求秦国支持他当晋国国君，事成后以五座城池作为酬谢。后来，夷吾在秦国的帮助下当上国君，却不履行诺言。不久晋遭受自然灾害，粮食歉收，晋惠公又向秦买粮，秦国不计较夷吾背约失信，慷慨地答应了晋的要求。
第二年，秦国收成很差，刚入冬就发生饥荒，秦王派人到晋国买粮。晋惠公不想答应秦国的要求，大夫庆郑认为不妥，他说：“这样背弃恩惠，不仁不义，把道德全丢掉了，当我们一旦需要援助，谁来帮我们呢？我们还怎样保卫国家？”另一个大臣虢射却说：“晋国不割五城给秦是根本问题，根本问题不解决，只答应卖粮，就好比只有毛没有皮。没皮毛又能依附在什么地方呢（原文‘皮之不存，毛将焉附’）？我们已背了约，再卖粮给秦，也不能平息秦国的不满，不如干脆连卖粮也不答应。”
晋惠公没有采纳庆郑的建议，听信了虢射的意见。庆郑叹气说：“国君这样做，将来要后悔的。”果不出庆郑所料，第二年秦晋发生战争，晋惠公做了秦国的俘虏。
“皮之不存，毛将焉附”比喻不解决根本问题，即使解决其他枝节问题，也没有用处。