这个成语出自《三国志·蜀书·诸葛亮传》。
东汉末年，社会动荡不安，军阀豪强割据称霸，都想占有天下，战争连年不断。
当时，在新野地方有位名叫刘备的年轻首领，雄心勃勃，准备夺取天下，他极渴望得到有见识、有才干的人来辅助他。
有一次，刘备去请教名士司马徽。司马徽向他推荐说：“当今的一般儒生里，哪里能找得到真正洞察天下大事的俊杰人物？识时务者为俊杰啊！”他推荐了两个称得上“俊杰”的人物，一个是“凤雏先生”庞统，另一个是“卧龙先生”诸葛亮。
刘备记起徐庶也曾几次三番提起过诸葛亮的才能，于是便求徐庶为他去请诸葛先生。
徐庶回答说：“将军要是真正渴慕人才，就应亲自登门啊！”
于是，刘备亲自骑着马到襄阳附近的隆中拜访诸葛亮。一次没见着，第二次再去仍未见到。刘备求贤心切，第三次登门，终于见到了诸葛亮。这就是传说的“三顾茅庐”。
诸葛亮精辟地分析了当时的形势，提出夺取荆州（现在湖南、湖北），益州（现在四川），和好西南少数民族，东联孙权、北伐曹操的战略方针。刘备听了非常叹服，当即尊他为军师，他也愿意竭力辅佐刘备。
从此，两人日夜商议军中大事，关系也日益密切起来。可是这却引起了刘备手下大将关羽、张飞的不满。刘备向他们解释说：“孤之有孔明，犹鱼之有水也。”
在诸葛亮的帮助下，刘备占据了荆州、益州，在公元221年建立了蜀汉政权。
“如鱼得水”在这里指得到了非常需要的助手，好像鱼儿得到了水。现在则比喻有所凭借，也比喻得到跟自己最相投合的人或适合的环境。