吕蒙正为相前，有整整十二年是在担任各级官职，从底层官员做上来的并非一朝蒙受恩宠就平步青云之辈。他在33岁时参加科举高中状元，从此不入官场，最早的官职只是将作监丞、升州通判。将作监丞是从六品下，掌管了皇宫建筑、刺绣、器具等的制造，而通判也就是地方行政长官的一个副官，管理各种事项和监督长官。

因为吕蒙正自身有德有坚持，所以得到了皇帝以及赵普等人的赞许和认可，在李昉被罢免宰相后升任为宰相。不过没过多久，吕蒙正因为母亲去世而去守丧，所以就解除了宰相职务。不过三年的守丧时间还未满，他就被朝廷重新起用成为宰相。

后来，宋沆上奏疏违逆皇上旨意，因为是吕蒙正妻子的族人，所以他也受到了牵连，宰相之位被罢免，担任礼部尚书一职，李昉重新为相。不过后来李昉又再次被罢免，所以吕蒙正第三次担任宰相，同时礼部尚书的职位仍然继续。

而等到宋太宗驾崩，真宗继位后仍然沿用吕蒙正为相，还给他加封，之后他还成为了太子太师，封爵徐国公。