代宗上台后,因念其拥立之功,册封李辅国为司空兼中书令,李辅国终于实现了他的宰相梦。李辅国气焰更加嚣张,他曾对代宗皇帝说“大家但内里坐,外事听老奴处置。”实际上让代宗把军国大事都托付于他。这一举动自然引起了代宗的不满,但由于李辅国掌握军权,代宗只得忍气吞声。
宦官程元振对唐代宗也有拥立之功,但处处受到李辅国的压制,因而产生了除掉李辅国的念头。此刻他见代宗已有除掉李辅国之心,便不断地暗中向代宗控告其罪状。代宗得程元振之助,陆续解除了李辅国的一些职务,最终把他逐出了朝廷。此后不久,有个身份不明的刺客夜闯李宅杀死了李辅国,并将他的头颅扔到了粪坑里。这个欺压皇帝、无恶不作的“老奴”得到了应有的下场。
李辅国死后,宦官程元振专权,其骄横情状较李辅国竟有过之而无不及。唐德宗贞元年间,宦官窦文场、霍仙鸣分别就任左、右神策军中尉,从而把持了中央禁军的统帅权。以典掌禁军为基础,唐代后期宦官权焰日炽,并上演了一幕幕逼宫弑帝的丑剧。