漢朝末年（東漢），北海地方出了一個很博學的人，名叫孔融，字文舉，是孔子的二十世孫。他從小就很聰明，尤其長于辭令，小小年紀，已是在社會上享有盛名。他十歲時，跟他父親到洛陽（今河南洛陽縣。洛陽是歷代帝王的陪都，因位于長安之東，稱為東都），當時在洛陽的河南太守，是很負盛名的李元禮，由于李氏的才名很重，因此在太守府中往來的人除了他的親戚，其余都是當時有才名的人。如果不是名人去訪，守門的人照例是不通報的。

    孔融到了他家門前，對下邊的人說：“我是李府君的親戚。”

    守門人通報后，李元禮問他說：“請問你和我有什么親戚關系呢？”

    孔融回答道：“從前我的祖先仲尼（即孔子）和你家的祖先伯陽（指老子，老子姓李名耳，字伯陽）也是師生關系（孔子曾向老子請教過關于禮節的問題） ，那么，我和你也是必定世交呀！”

    當時有很多賀客在座，李氏和他的賓客對孔融的這一番話都很驚奇。 其中有一個中大夫陳韙，恰恰后到，在座的賓客將孔融的話告訴他后，他不假思索地說道： “小的時候很聰明，長大了未必很有才華。”

    聰明的孔融立即反駁地道：“我想陳大夫小的時候，一定是很聰明的。”

    陳韙給孔融一句話難住了，半天說不出話來。

    后來的人就引用這段故事中的兩句話，將“小時了了，大未必佳”引成成語，來說明小孩子從小便生性聰明，懂得的事情很多。但因為下文有“大未必佳”一語，故這句成語的意思便變成了：小時雖然很聰明，一到長大了卻未必能夠成材的。 故表面上雖是贊揚的話，骨子里卻是譏誚人、輕蔑人的。