甘露寺李德裕题字碑
李德裕在润州（今江苏镇江）创建甘露寺，并亲为僧人造塔题碑。图为李德裕为甘露寺落成亲笔题字碑，现藏于江苏镇江博物馆。
821年，牛党人物钱徽主持科举考试，李宗闵（牛党）、李绅（李党）都向其推荐自己的熟人，可是发榜之后，李宗闵的熟人录取了，而李绅的请托却落空。李德裕联合李绅，向皇帝揭发钱徽科举舞弊，钱徽被降职，李宗闵也受到牵连，被贬谪到外地去了。李宗闵认为李德裕成心排挤他，于是恨透了李德裕。牛僧孺当然很同情李宗闵。于是以后牛僧孺、李宗闵就跟一些科举出身的官员结成一派，李德裕也跟士族出身的官员结成一派，两派明争暗斗得很厉害。
822年，牛党人物李逢吉为宰相，把李德裕逐出长安，出任浙西（今江苏镇江）观察使。823年，宿州刺史李直臣贪赃枉法，其罪当诛。李直臣贿赂宦官为他说情，任御史中丞的牛僧孺据理雄辩，强调应坚持国家法制。穆宗被其所动，升其为宰相。825年，牛僧孺因失望于新登基的唐敬宗李湛荒淫无道，辞去相位，出外就任节度使。李逢吉（牛党）也被迫辞职，任职地方。裴度出任宰相。
829年，在裴度的极力引荐下，离京7年的李德裕就任宰相。而他的政敌李宗闵（牛党）在宦官的支持下，也被任命为宰相。李宗闵（牛党）排挤掉李德裕，李德裕再次被逐出京城，任义成（镇今河南滑县）节度使，稍后再任西川（镇今四川成都）节度使。不久，李宗闵又引牛僧孺入朝为相，二人合力斥逐拥护李德裕的朝官。