这个成语出自宋代苏轼的《文与可画筼（yún）筜（dāng）谷偃竹记》和晁补之的《赠文潜甥杨克——学文与可画竹求诗》。
相传北宋时期，有一个读书人姓文名同，字与可。他能诗善文，通晓篆（zhuàn）、隶、行、草等各种书法，又擅长绘画。文同平生很喜欢画竹子。他在自己的住宅前后，亲手种了很多竹子，一年四季，不管是刮风下雨还是雪花纷飞，都坚持观察竹子的形态、颜色，琢磨竹枝竹叶在各种不同情况下的变化。经过长期的种竹实践和观察、揣摩，他不仅对竹子的特性了如指掌，而且在脑海中装满了各种各样竹子的形态。正因为这样，在他动笔绘画之前，要画什么样的竹子，怎样构图，着墨，他心中早就有了轮廓，不必费尽心思，反复琢磨，而是一挥而就，出色地画出各式各样的竹子。他画的竹子，栩栩（xǔ）如生，形神兼备。
苏轼称赞文与可的作画方法是“故画竹，必先得成竹于胸，执笔熟视，乃见其所欲画者，急起从之，振笔直遂……”文同的一位好朋友、著名大诗人晁补之的诗中是这样写他作画的：“与可画竹时，胸中有成竹。”意思是说，与可在画竹子时，完美的竹子形象早就在他心里构思好了。
人们把“胸中有成竹”简化成“胸有成竹”亦作“成竹在胸”。这个成语比喻事前已有全面考虑，或已有成功把握。