第二天，关羽一早赶往相府辞行，不料相府禁卫森严，门楣高悬一牌，上书“回避”二字。关羽下马，步至阶前一揖：“请禀报丞相，关羽求见。”甲士首领指指回避牌：“丞相有要事，不见任何人，将军请回吧。”关羽无奈回转，走到半途，忽然掉转马头，向张辽的府邸驰去。未想张辽府前军士给他的回应，与相府如出一辙：“张将军卧病，谢绝来访，请关将军见谅。”关羽怔愣片刻，只好先回武英阁。
孙干迎上来问道：“怎么样了，将军？”关羽说：“他们都不肯见我，显然是不愿意放我走！”孙干焦急地问：“那将军准备怎么办？”关羽想了想说：“我只好给丞相写一封信，留在这里。以此权作告辞。你立刻令人收拾行装，侍候二位嫂夫人上车。记着，凡是丞相赠送的金银玉器、奴仆侍女，一概不准带走！”
行装收拾停当。孙干找来一辆驿车，让二位夫人坐了，自己则坐在车前充当马夫。关羽最后走出内室，他将那颗汉寿亭侯的大印郑重地高悬于梁下，朝大印深深一揖，沉重地说：“丞相恕罪，关羽告辞了！”
得知关羽离去的消息，曹操先是一怔，尔后跌坐长叹：“关羽离我而去了……”还未从愣怔中清醒过来，一军士手握关羽留下的信笺，匆匆入室禀报：“禀丞相，关羽把朝廷赐给他汉寿亭侯大印悬挂在梁上，把丞相赠送的金银玉器、侍女仆役全部留在客馆，并留下此信。”
曹操慨叹道：“财富不能动其心，爵禄不能改其志，生死不能阻其行。对这样的义士，别说我曹操，天奈其何？”程昱谏道：“主公，关羽此去，必投袁绍。这样一来，袁绍可就如虎添翼了。请丞相赶紧派悍将铁骑追杀，以除后患！”
蔡阳乘机请缨：“丞相，末将请兵三千，定砍下关羽首级，献于丞相！”曹操犹豫片刻，最终还是摇摇头说：“蔡阳，你虽然骁勇，只怕未必杀得了关羽。事到如今，我们与其后悔叹恨，不如再赐关羽一道恩典。程昱啊，随我出城相送。”
关羽护卫着驿车，正行到三岔口。后面忽然响起呼喊声：“云长慢行，云长慢行！”关羽驻马回身，见张辽策马赶来，道：“文远莫不是来追我回去的？”张辽笑着说：“我不是来追你回去的。云长啊，丞相得知你要远行，亲自出城相送。”
关羽举首远望，果然看见曹操率领十多个战将而来。关羽立刻横刀立于路口，护住车驾。曹操令众将驻马，单骑上前笑道：“关羽啊，何必这么急着走啊？就连喝我一杯送行酒都等不及么？”关羽在马上道：“禀丞相，在下先前与丞相有约，一旦得知兄长下落，无论天涯海角都立刻前去相会。现在，我已经知道兄长下落了，因此匆匆前往，请丞相恕罪！”
曹操一笑：“我既与你有约，岂能失信！此去冀州足有八百多里，我特来送你一些路资，供你路上使用。此外，再送你一件锦袍，供你遮凉御寒。”一军士捧着银盘走上来，盘中有黄金数锭、锦袍一件。关羽十分感动，但又不得不有所警觉，犹豫片刻，倒持长刀，以刀柄挑过锦袍，披于身上，辞别道：“丞相……恕关羽不能下马叩谢了！就此告辞！”
关羽信守当年桃园三结义的誓言，手持青龙刀，骑坐赤兔马，奔赴刘备。