这个成语出自晋人陈寿所著《三国志·吴书·吕蒙传》裴松之注引《江表传》。
三国时，吴国大将吕蒙文化较低。一次，吴主孙权对吕蒙说：“你现在当权掌管国家大事了，应当多读点书才是。”吕蒙推说军中事务多，没工夫读书。孙权反问道：“难道你的事比我的还多吗？我一直抽空看书，收获很大。”吕蒙从此开始抽时间读书，进步很快。后来鲁肃见到他，很惊奇地发现吕蒙已今非昔比了。吕蒙感慨道：“士别三日，当刮目相待。”意思是说，一个人离别三天，是应该用新眼光看待了。
“刮目相待”多作“刮目相看”。刮目，擦眼睛，意指去掉过去的看法。这个成语比喻改变旧看法，用新眼光看人。