这个成语出自胡仔《苕溪渔隐丛话前集》卷十九引《刘公嘉话》。
唐朝有一个读书人叫贾岛，有一年他来到京城应考。一天，贾岛骑着毛驴在长安郊外漫步游玩，触景生情，偶得两句好诗：“鸟宿池边树，僧敲月下门。”他一边吟咏着，一边脑海里又浮现出这样一幅画景：一个夜色幽静的山林，有个和尚匆匆归来，面对着紧闭的山门，是“敲”字好，还是“推”字妙呢？他边思索边比划，不停地在驴背上伸出双手，时而作推的手势，时而又作敲的姿态。贾岛如痴如迷，反复琢磨、比划，不知不觉闯进京兆尹韩愈的仪仗队中。左右的卫兵当即把他抓来见韩愈。贾岛一看闯了大祸，就把作诗的经过讲给韩愈听，恳求能得到他的宽恕。
谁知道韩愈不但没有责备他，反而笑吟吟地听完了他的叙述，又紧锁双眉思索了一会儿，便对贾岛说：“作‘敲’字佳矣。”意思是说，这第二句诗，还是用“敲”字，既有动作，又有声响，还是敲字好啊！
韩愈很欣赏贾岛的治学态度和文学才华，从此，便与贾岛结成了一对文学上的挚友。后来，贾岛成了唐朝著名的诗人。
“推敲推敲”比喻对文章字斟句酌，或对问题和事物精心琢磨，认真分析。