开元二十四年，李林甫接替张九龄成为了当朝宰相。他在任十九年，有幸成为了唐玄宗时期在任时间最长的宰相。在此期间，他闭塞言路，对政治意见和自己不同的人大肆打压，对能力高于自己的人竭尽其能将其铲除。他往往表面一套，背后一套，时人称之为“口有蜜，腹有剑”。

　　有一次，唐玄宗在勤政楼宴请众臣，宴会结束后，唐玄宗躲在帘子后面观看街景。忽然看到有个人风度翩翩地骑着马走过，皇帝对他大感兴趣，就问左右：这人是谁。近臣告诉他，这是兵部侍郎卢绚。此时李林甫刚刚掌权不久，生怕有人替代了他的位置。当他得知这件事情后，十分紧张。于是找到卢绚的儿子，说：皇帝现在的心思都放在对广州一代的建设上，那里急需一个人才去治理。所以皇帝想派你父亲去那里。可是那个地方山高水远，很穷，如果你父亲不想去，就上书皇帝说有病，请求调到东都洛阳去当个太子詹事吧。卢绚的儿子信以为真，就和他父亲把这事说了，卢绚于是上书皇帝。唐玄宗一看，十分惋惜，只好调他去当了华州刺史。一个月后，李林甫又诬陷他身体不好，调到东都洛阳当了太子詹事。

　　当唐玄宗想网罗天下贤士的时候，李林甫害怕这些在皇帝面前说他的坏话，于是设了个法子，让那些前来应征的人士一个都没中选。他在皇帝面前说：天下的贤士已经都聚集在长安了，这次来应征的都是些粗野人士，不值一提。皇帝信以为真，大肆庆祝。而实际上，此次“野无遗贤”的笑话中，大诗人杜甫正是被筛选下来的贤士之一。

　　在他担任宰相时，任用京兆法曹吉温和杭州人罗希奭掌管刑狱，帮助李林甫打压异己，只要落进着两人手里的，谁也别想逃脱。当时人称这二人为：罗钳吉网。

　　而其实，当时的皇帝唐玄宗也知道这些事。安史之乱后，唐玄宗对他在位期间的宰相一一点评，从姚崇、宋璟开始，一直提到张九龄。唐玄宗说：张九龄排除异己，无人能及。当时和他一起谈论的大臣裴士淹说：陛下既然知道，又为何让他当了那么长时间的宰相呢?唐玄宗默然以对。

　　安禄山怕李林甫

　　唐玄宗是个自小就聪明过人的人，他发动一次又一次的政变，诛杀了韦皇后、太平公主、上官婉儿这些对他政治掣肘的大人物，把武则天时期遗留下来的党羽和企图模仿武则天的人杀得那叫一个干净。

　　然而，就是他这么聪明的一个人，这么会栽在安禄山的手里?首先，唐玄宗到了晚年，穷奢极欲，当年的锐气早就没了。他信任杨贵妃，而杨贵妃信任安禄山，所以他也信任安禄山，他把安禄山当成了可以永葆大唐江山的功臣。是繁花似锦的大唐江山迷惑了他的眼睛。但是安禄山这个人，早就被人看透。之前张九龄就断言过他必反，李林甫也能一眼看穿他在想什么，甚至连杨贵妃的哥哥杨国忠都说过安禄山这个人有反意。但唐玄宗却都没有相信。

　　要说安禄山，最怕的那个人还是李林甫。据说安禄山每次进京的时候，总说斜着眼不停地在观察左右，甚至要把周围都看过好几遍，才肯进殿去。由此可见，安禄山其实打从心底里就一直在觊觎着大唐的锦绣河山。

　　安禄山仗着唐玄宗对自己的无比恩宠，自以为无人能出其右。当初见李林甫的时候，他很没把李林甫的那个老头放在眼里。李林甫不动声色。当时大夫王鉷在朝堂上和杨国忠齐名，身兼二十多职，混得风生水起。李林甫就把王鉷叫过来问话，王鉷对李林甫态度甚是恭敬。这让安禄山很是意外和惊恐，从此以后，他见到李林甫就再也不敢放肆了。