吕蒙正入仕6年后便位至参知政亊（副宰相），进了执政圈子。又过了5年则官拜同中书门下平章事（即宰相）。此时他才40多岁，年富力强，并以直言敢谏著称，不仅开国元勋赵普十分佩服他,连励精图治的宋太宗赵炅（音窘；本名匡义，又名光义）也自愧“气最不如吕蒙正”。
吕蒙正当了宰相后，办了一件颇有影响的亊——降低自己儿子入仕的起点官阶。封建时代，有所谓“荫”的制度，即相当级别的官员的子孙可凭父、祖的功勋、地位直接得到一定的官职。在吕蒙正之前，宰相的儿子若以父荫入仕•起点官职一向是“员外郎”。员外郎是尚书省诸司中的要员，官阶为正七品。吕蒙正早就对这一点颇为不满，但无可奈何。待到他自己掌握政权之后，立即给太宗上奏章说，我本人是苦读诗书数十年，经过一次又一次艰苦的科举竞争出来做官的。费九牛二虎之力奔了个状元，最开始也只是个八九品的官•更有许多有才能的人，因种种原因，未能通过进士考试,往往老于岩穴，到死都得不到一官半职。现在我的儿子没有费过什么气力，乳臭未干就授高官,这是不合理的。我请求只以我入仕时的职衔予以引用，这已经受恩不浅了！太宗批准了他的请求，从此，宰相之子受萌入仕只授九品京官，成了新的制度。
不仅如此，吕蒙正对自己的儿子能否担任要职也是实事求是，十分慎重的，他历仕两朝，三度入相，晚年退休回到洛阳居住。因他德高望重，真宗皇帝曾两次亲临其家探望。后一次是大中祥符四年（1011年)三月，估计他将不久于人世了，真宗在病榻前问他哪个儿子可以重用。照说，这是谋取家庭利益的极好机会，只要他一句话，某个儿子立即就可以飞黄腾达。可是他却回奏道我的儿子都如猪狗一般，不堪重用，但我有个侄子叫夷简，现在在颍州（治所在今安徽阜阳县）当小官，我看他倒是个当宰相的人才，这话当然起作用。吕夷简自此受到真宗的重视,迅速得到提拔，至仁宗朝果然位至宰相，成了一代名臣。