这个成语出自唐朝郑处诲撰写的《明皇杂录》卷下。
唐朝时候，玄宗皇帝很器重苏颋（tǐng），想让他做宰相，但玄宗事先不想让别人知道。一天晚上，他召见朝廷值班的中书舍人萧嵩，叫他草拟一份诏书，好发布苏颋做宰相的命令。萧嵩很快就写好了，拿给皇帝看。玄宗看到其中有一句是“国之瑰宝”，很不满意。虽然这是赞美苏颋的话，可是苏颋的父亲就叫苏瑰，为避开这个字，皇帝命令萧嵩再改一下。
萧嵩觉得惹怒了皇帝，心里十分畏惧，吓得流汗不止，写了半天也写不出一个字来。后来皇帝又走到萧嵩面前去看，看他只是把“国之瑰宝”改成“国之珍宝”，并没有写出更好的字句来，大失所望。等萧嵩退去以后他就抓过草稿扔到地上，气恼地说：“虚有其表耳！”
原来萧嵩这个人是位美男子，修长的身材，健壮的体魄，而且长着漂亮的胡须，看起来他是一表人才，也很有文名。可是这次却写不出叫人中意的文稿，所以玄宗斥责他是“虚有其表”。
“虚有其表”说明表里不一，没有真才实学。