这天，二人走到一座山的脚下，听当地人说，此山是最先见到太阳的山，所以叫首阳山。他们在路上听从朝歌方向来的人说，周武王与姜太公率领大军，与盟津会上的八百诸侯一起东伐商纣。经牧野之战，商纣派出迎战的大军临阵倒戈，周武王取得了决定性的胜利，于是，统治中国六百年之久的商王朝土崩瓦解，纣王也自焚而死。周武王取得了天下，建立了周朝，四方诸侯纷纷归顺。天下太平，海内称庆，社会气象为之一新。而伯夷和叔齐却呼天抢地，一边为纣王悲伤，一边为不能为纣王尽忠而深感羞耻。他们发誓永做殷商的遗民，隐居首阳山而不出，更不再吃周朝的一粒粮食。
不久，他们从山外带来的粮食就吃完了，叔齐问伯夷：“兄长，粮食已吃光了，我们今后该如何生活？”伯夷望着弟弟，想了半天才说：“我们到山里寻些野菜充饥吧。”两个王子，哪里认识什么野菜，在山里找寻半天，也一无所获，倒是累得精疲力竭，瘫倒在地。这时，远处传来一位女子的山歌：“喓喓草虫，趯趯阜螽；未见君子，忧心忡忡。亦既见止，亦既觏止，我心则降。陟彼南山，言采其蕨；未见君子，忧心惙惙。亦既见止，亦既觏止，我心则说。陟彼南山，言采其薇；未见君子，我心伤悲。亦既见止，亦既觏止，我心则夷。”歌声婉转优美，这首歌后来被孔子搜集整理后编进了《诗经》。通晓音律的伯夷、叔齐，一下子被这优美的歌声吸引，寻声望去，只见一位美丽的山姑正提着篮子在采野菜。二人站起身来，向那女子走去，他们向女子施礼后，问她在采什么，女子说：“我采的是薇菜啊，我们当地人也叫它野豌豆，它的嫩茎和叶可做菜，种子可以做粮食。”二人一听，赶紧从女子篮子里抓起一把仔细辨认，高兴地说：“苍天啊，我们兄弟二人有救了。”看到他们虽衣衫褴褛，却又气质不俗，女子不解地问：“你们为什么流落到此啊？”二人告诉了她缘由，女子知道这是两位在山中避难的王子，对他们十分敬重和照顾。兄弟二人常常一边采薇，一边唱歌：“登彼西山兮，采其薇矣。以暴易暴兮，不知其非矣。神农、虞、夏忽焉没兮，我安适归矣？于嗟祖兮，命之衰矣！”从此二人在女子的指点下，认识了不少野菜，以此充饥，暂时解决了基本的食物问题。
春去秋来，转眼到了冬天，山里的野菜越来越少，大雪封山，伯夷、叔齐已有几天没吃的了，他们只好再去找那山姑，想从她那里知道哪里还能找到充饥的野菜。山姑告诉他们冬天已无什么野菜可采，而且忍不住提醒他们现在这山已经是周朝的地界了，并叹气说：“你们发誓不吃周朝的粮食，可现在这山里的一草一木都已经是周朝的了，你们可怎么办呢？”二人一听，一下子陷入绝望，发誓不再出去采食野菜了。不久，他们便饿死在首阳山。
伯夷、叔齐死后，当地人把他们埋葬在首阳山。他们“义不食周粟”、“采薇而食之，饥饿而死”的故事，深深打动了古今不少贤达志士，于是便把他们的故事到处传诵。孔子、孟子尊称伯夷、叔齐为圣贤，历朝历代对伯夷、叔齐尊崇之至。秦汉时期，当地百姓就在首阳山重修伯夷、叔齐之墓，并修建庙宇，凿洞塑像，举行祭祀活动。
伯夷、叔齐墓地庄严肃穆。墓前有石碑，石碑正中是清代陕甘总督左宗棠篆书“百世之师”和楷书“有商逸民伯夷叔齐之墓”的碑文，两边的对联是“满山白薇，味压珍馐鱼肉；两堆黄土，光高日月星辰”，横额是“高山仰止”。在墓地后面的山崖下，修建有供奉伯夷、叔齐的清圣祠大殿。殿内供奉的是由雕塑家何鄂女士根据唐代著名画家李唐《采薇图》而塑造的伯夷、叔齐像。殿门口有一副笔墨拙朴的对联：“几根瘦骨头支撑天下，两张饿肚皮包罗古今。”
渭源首阳山自伯夷、叔齐隐居后而出名，千百年来，凭吊、祭奠伯夷、叔齐者络绎不绝，且延续至今。象征高风亮节的夷齐祠也遍及全国，传诵着中华民族知礼守义的故事。