年輕的劉氏發誓不再嫁人，帶著兒子流落在洛河、伊水之間，住著破窯洞，靠拾柴火、紡棉線的微薄收入，供呂蒙正上學，將生命中的所有希望都寄托在兒子身上。
孤兒寡母的生活之艱辛，可以從呂蒙正寫在破窯洞門口的迎春對聯中略見一斑：上聯：二三四五；下聯：六七八九；橫批只兩個字：南北。窯洞門口立即招來圍觀的鄉親，七嘴八舌，但都不知道這副對聯到底有啥含義，有人干脆嘲笑呂蒙正“瞎編”。最后，這副“不知所云的對聯”引來當地最有名的老秀才。老秀才看了，頓生敬意，說小小呂蒙正了不得：這是一副“漏字聯”，上聯漏了“一”；下聯漏了“十”，合起來的意思是“缺一少十”，意即“缺衣少食”。橫批“南北”，蘊含“沒有東西”的意思。寥寥十個字，寫出了這對母子艱苦的日子。
浪子般的生活，磨練了呂蒙正的意志。在這種環境下，呂蒙正發奮苦讀，果然不負母親的心意，在宋太宗太平興國二年（977年），與叔叔呂龜祥同登進士榜，并在殿試中擊敗所有對手，一舉奪得狀元桂冠，被授予“將作監丞”的職務，掌管皇家園林、宮殿建筑，從此走上仕途。
面對賄賂與嘲諷
呂蒙正的人品高潔，這是當時人公認的。他在京城做官后，就將母親和賦閑的父親接到其住處，雖然老兩口不和睦，但讓他們同住異處，相安無事。
身處朝廷，他也能潔身自好。有個當官的為了巴結他，拿了一件古董——銅鏡，找到呂蒙正的弟弟，說這面銅鏡可以照到兩里之外，想把它送給呂蒙正。北宋時，古董是很受士大夫器重的，古玩成為士大夫階層的重要禮品，但呂蒙正對他的弟弟說：“我的臉只有碟子大，要一面能照兩里遠的大鏡子有什么用？”誰都知道：古玩的價值，不在于實際使用，而在于它的文化意義，它在經濟方面的巨大增值空間，就是基于這種文化意義。呂蒙正真正是王顧左右而言他，巧妙地拒絕了下屬的行賄。
太平興國八年（983年），呂蒙正升任參知政事，官至副宰相。有一天上朝，隔著一層簾子，有人沖呂蒙正說：“就這小子還是參政（‘參知政事’的簡稱）？”呂蒙正像沒聽見似的，可有的人為他抱不平，說要弄明白這個說風涼話的人到底是誰，呂蒙正說：“沒有必要。弄明白了，就會總記著這個人；不問他是誰，對我又有什么妨礙呢？”后世人都夸贊呂蒙正“不記人過”，這件事，是這一美德最好的詮釋。
呂蒙正為人確實坦蕩。他賦閑在家時，七個兒子都活躍在政壇。宋真宗在祭拜祖陵的途中曾上門看望他，其間問他“諸子孰可用”（哪個兒子可以重用），呂蒙正回答道：“我的幾個兒子，都不值得大用，但我的侄兒呂夷簡，現在是潁州府推官，這可是個宰相的料啊。”后來，呂夷簡果真出任大宋宰相。當然，不可用的人，他不顧皇上的臉色，實話實說，毫不遷就。
呂蒙正高中狀元時，親戚朋友都來祝賀，恭喜的，捧場的，誠心誠意也好，假情假意也罷，使剛從貧困中走出來的呂蒙正感覺非常特別，于是他撰出一副流傳后世的名聯：
舊歲饑荒，柴米無依靠，走出十字街頭，賒不得，借不得，許多內親外戚，袖手旁觀，無人雪中送炭；
今科僥幸，吃穿有指望，奪取五經魁首，姓亦揚，名亦揚，不論王五馬六，踵門慶賀，盡來錦上添花。
不愧是狀元，一副楹聯，罵盡勢利親鄰，一些趨炎附勢的親鄰看了這副楹聯后，都灰溜溜地隱去了。
有關呂蒙正娶妻時的對聯佳話，也一直傳唱至今。他的夫人是趙氏，頗有才氣，在選擇對象時，出了一副上聯：“因荷而得藕”，稱能對出下聯的，是入圍候選的條件之一。很多秀才絞盡腦汁，想攀上這位趙***，可都沒能交出令趙***滿意的下聯，也就自然被淘汰了。呂蒙正對了下聯，為“有杏無須梅”。趙***終于把繡球拋給了呂蒙正，原因何在？“因荷而得藕”，實際意義是“因何而得偶”，憑什么能得到配偶；“有杏無須梅”，即只要有運氣（幸運），就不需要什么媒人。諧音、工整，憑著這樣的才氣，呂蒙正最終娶了趙***。
歷史上流傳的有關呂蒙正對對子的佳話不少，無論在政壇上，還是在文壇上，呂蒙正在當時的影響都很大，只是年代久遠，熟悉他的人就越來越少了。
宋太宗的“魏征”
宋太宗時，呂蒙正曾官拜宰相。有一次，太宗叫他物色一個人出使遼國。呂蒙正書面推薦陳某，結果，這個書面報告被太宗扔在了地上，叫他重新推薦。呂蒙正第二次交上去的報告中，推薦的仍舊是陳某。太宗又將這個報告扔在地上了。沒辦法，呂蒙正又第三次推薦，可推薦的人還是陳某。這一次，太宗發火了，將報告重重地扔在地上，罵罵咧咧，道：“這個呂蒙正，你怎么這么固執！”呂蒙正不慍不火，說：“皇上，不是我固執，而是您對陳某有偏見。出使遼國，陳某最合適，其余人真的不如他。我不會為了迎合您而推薦別的人，從而延誤國家大事的。”太宗終于被他說服，道：“那就依你吧。你的氣量，還真的比我大呢。”陳某出使遼國，果然出色地完成了外交任務，受到朝廷的獎賞。
呂蒙正剛剛當宰相時，有個名叫張紳的富家子弟，從蔡州知府的位置上被罷免，有人對皇上說：“這件事真的沒必要鬧到這個份上。張紳家一貫富有，呂蒙正窮困的時候，曾經找張紳家借錢，張紳當時沒答應。真是三十年河東變河西，現在呂蒙正當上宰相了，當然要報復他。”皇上聞聽此言，立即叫朝廷恢復了張紳的官位。身為宰相的呂蒙正，似乎沒發現這件事。后來，朝廷在考核官員時，發現張紳確實存在問題，再次貶降張紳，皇上當著呂蒙正的面說：“張紳果然有經濟問題。”呂蒙正仍然未置可否，原來這件事壓根兒就與他沒有關系。
有個與呂蒙正同時中舉的“同學”，名叫溫仲舒，當官時出了案子，被貶多年，一直得不到起用。呂蒙正覺得這個人是有才華的，當他當上宰相之后，就向太宗舉薦溫仲舒，溫仲舒從而東山再起。后來，溫仲舒似乎是為了顯示自己，多次在公開場合貶低呂蒙正，很多知情人都因此看不起他。有一次，呂蒙正又在太宗面前夸獎溫仲舒的才氣，太宗有點不耐煩，說：“你這人怎么回事？你總說這個溫仲舒不錯，可溫仲舒卻再三說你不才不德啊！”呂蒙正說：“皇上您安排我做宰相，只是要我向您舉薦人才，至于別人怎么說我，我哪能管得了？”聽得太宗哈哈大笑，說自己得到呂蒙正，就像唐太宗得到諫臣魏征。
呂蒙正對太宗的規諫，確實有點像魏征對于唐太宗。在一個正月十五的觀燈宴會上，面對燈火輝煌，歌舞升平，太宗不無得意，對陪侍在身邊的大臣們說：“五代之時，天下大亂，生靈涂炭，當官的，耕田的，沒有人不受擾掠。人間火災頻仍，天上彗星出沒，天下人心惶惶，老百姓都說天下再也不會有太平的日子了；自從我即位以來，政事不論大小，一律親手處理，就取得了今天的繁華局面，由此可見，亂與治都在人為��！”大臣們都附和稱贊。可呂蒙正卻說：“皇上所在之處，當然歌舞升平，偏遠之處呢？我曾經在皇城之外幾里之地，看見很多百姓因饑寒而死！皇上可萬萬不要被眼前的繁華遮擋視線��！皇上把偏遠之處放在心上，這是天下蒼生的幸運啊！”眾大臣聽著呂蒙正這樣當面教誨皇上，個個面面相覷，皇上的臉色也發綠了，但終究沒有說一句話�！驹瓨祟}：呂家的第一位宰相：呂蒙正】