李林甫出身于宗室，是唐高祖李渊堂弟李叔良的曾孙。靠着这优越高贵的血统关系，加之他又善于施展花招，耍两面派，终于在公元734年当上了唐朝宰相。
他身为宰相，学问却极低，居然还常念写错别字。一次，她妻子的弟弟姜度得了个儿子，他前去祝贺，并当着众人的面手书一条幅，还得意地对姜度大声道：“恭贺你有弄獐之喜。”在古代，生了男孩叫“弄璋”，“璋”是一种美玉，意思是祝小孩长大后成名做官，身佩美玉。而“獐”是一种野兽，他这一错，等于是骂姜度的妻子生了个畜牲。客人们看了条幅都偷偷地笑，姜度被气得脸上红一阵白一阵，苦不堪言。
李林甫自己没本事，而对有才华的人却嫉妒得两眼发红。有个叫李适之的人曾与他一同做宰相，此人坦荡随和，办事干练。李林甫总怕他跟自己争权，就想陷害他，于是设了个圈套。一天，李林甫对李适之说：“最近听说华山有金矿，要是开采出来，朝廷就更加富裕了。可惜皇上还不知道此事。”李适之耿直爽快，缺乏心计，回家后就写了奏书，请求玄宗批准开采华山金矿，以使国家富足。等皇上找来李林甫商量时，他却变了个腔调说：“这事我早就听说了。可一想到华山是皇家的根本所在，那里有帝王之气。要是在那儿开采，就会破坏了王气，动摇了皇家的根本，金子再多，也不能开采呀！所以我一直没敢向您启奏。”玄宗被他的花言巧语迷惑住了，反觉得李适之对自己不忠，渐渐地疏远了他。李适之这才明白吃了哑巴亏，他怕遭李林甫进一步陷害，就自动辞职了。李林甫又给他加上别的罪名，把他贬到很远的地方。第二年，李林甫派亲信到各地去杀害他的仇人。李适之得到消息，不愿受侮辱，就服毒自杀了。而李林甫还要斩草除根，便叫人把李适之的儿子活活打死了。
李林甫还常利用别人的矛盾，从中挑拨，让别人互相残杀，从而达到剪除异己的目的。有个御史大夫名叫裴宽，很受皇上重视，李林甫怕他日后会当上宰相，一心想害他。机会来了：有个刑部尚书叫裴敦复，他去东南沿海讨伐海贼班师回朝后，上表报战绩时，浮夸军功，为自己邀官请赏。裴宽知道了，立即上疏玄宗，弹劾裴敦复犯了欺君之罪。李林甫抓住裴敦复易被激怒的性格，就在暗中向他透露了此事。果然，裴敦复一听就蹦了起来，大骂：“裴宽是何东西，他还托我为其亲友邀功呢！”在李林甫的拨弄下，裴敦复连夜上书，反告裴宽一状。同时用500金重礼买通了宫里的人作为内应。就这样，裴宽反被贬职。李林甫仍不死心，就派人去结果裴宽的性命，只因裴宽拼命叩头求饶，才得免一死。
而裴敦复呢？因讨海贼有功，受到玄宗宠信，这又引起李林甫的嫉恨。第二年，李林甫假意给裴敦复请功，请求皇上派这样能干的人到岭南做官，去管理少数民族事务。裴敦复根本不愿意到那么偏远的地区去吃苦，一心想在长安，于是迟迟不到广州上任。结果正中李林甫的奸计。李林甫慢条斯理地和玄宗陈述，“裴敦复接到圣旨，却很久不去执行，恐怕是有违君命啊！”于是玄宗下令把裴敦复贬为淄川（今山东淄博市）太守，赶出了长安。
李林甫就这样，一边靠阿谀奉承博得皇帝的宠信，一边极力掩饰他的阴险、狡诈毒辣。表面上，他装得十分厚道、和善，对人说话时满嘴的甜言蜜语，让人感到他是个大好人。实际上他无时无刻不在暗算着别人，设计着一个又一个圈套。所以人称李林甫是“口有蜜，腹有剑”的杀人不见血的唐代大奸臣。
