这个成语出自西汉扬雄所著《法言·解嘲》。
曹参和萧何原来都是秦朝末年沛县（今江苏沛县）的小官吏，后来跟着刘邦起兵反秦。在带兵打仗时， 他俩立了不少功，可是曹参得到刘邦封给的爵位和赏赐却远远不如萧何。为此，曹参心里免不了有些不痛快，加之在一些事情上同萧何有意见分歧，本来是要好的朋友，关系也慢慢疏远了。
刘邦做皇帝后，萧何当了开国丞相。为了辅佐刘邦，萧何开始整理前朝文献，特别是秦朝的文献，并大力调查当时的民情、风俗、户口等等，在此基础上主持制定了汉朝的法规、典章和制度。
刘邦死后，汉惠帝继位，此时，萧何也病得只剩下一口气了。汉惠帝亲自去看他，请他推荐相国人选。萧何胸怀宽阔，不计私怨，以大局为重，还是推荐了曹参。
曹参继承了萧何的相国职务，他要求官吏们，一切按前相国的章程办事。虽然他没拿出新招来治国，但对那些油腔滑调、舞文弄墨或沽名钓誉的官员，坚决换掉，并选拔了几位忠诚老实，对萧何制定的政策积极拥护，又有实践体会的人来做他的助手。由此，有人在汉惠帝面前说曹参不精心策划治国，不出大力气工作。
有一天，汉惠帝同曹参议论起了这件事。曹参说：“请问皇上，您跟先帝比，哪个英明呢？”惠帝说：“我年轻，哪比得上先帝！”
曹参又问：“要谈治理国家的谋略，我与萧相国相比，皇上您看哪一个贤明呢？”
惠帝微笑着说：“恐怕你比不上萧相国吧？”
曹参乘机恳切地说：“皇上说得完全对，皇上比不了先帝，我不如萧相国。那么，先帝和萧相国平定了天下，制定出的政策，难道我不应该好好地继承下去吗？还能随意去更改吗？”
“萧规曹随”比喻遵循前人的规定办事。