当他探知武惠妃的意图，即通过宦官向武惠妃谄媚投靠，提出“愿保护寿王”(支持立惠妃儿子寿王瑁为太子),以换取这位妃子对他的支持。
而武惠妃要想达到废太子瑛立自己的儿子为太子的目的，需要取得外廷官僚的支持，因此对李林甫的投靠十分高兴，便在玄宗面前为他说好话。
此外，李林甫又与侍中裴光庭妻子暗通私情。裴妻乃武三思的女儿，“诡谲有材略”。裴光庭一去世，武氏立即去找高力士，请他向玄宗要求准许以李林甫取代其夫侍中之位。高力士本出武三思家，对武氏的要求无法推却。但是，选择宰相是朝廷的大事，当时的玄宗对此是极为重视的，高力士虽得宠信，还是不敢直接向皇帝提出。
这时，玄宗与中书令萧嵩商量，准备提尚书右丞韩休为侍中。任命的诏书正在起草，高力士赶快将这一消息透露给武氏，要李林甫去转告韩休。韩休任宰相后，果然“甚德林甫”。