此时，淮南争夺激烈。坐镇扬州的淮南节度使高骈老来昏庸，宠信方士，迫害功臣，致使上下离心。淮南将领毕师铎、宣州观察使秦彦起兵反叛，攻陷扬州，囚禁了高骈。高骈亲信吕用之带一部分兵马逃出扬州，假借高骈之名封杨行密为行军司马，命其速速率兵讨伐扬州叛将。杨行密认识到这是一个扩张自己实力的机会，于是率领全部人马火速赶往扬州。
五月，杨行密与吕用之合兵一处，驻扎于蜀冈。毕师铎率领精兵数万来攻。杨行密诈败，弃营而走。毕师铎的军队占领营寨后，就忙着争夺财物，乱作一团。杨行密乘机挥师反攻，毕师铎大败，兵马践踏，死伤不计其数。毕师铎一人回到了城中，恼羞成怒，就杀了高骈。杨行密得知后，哀声恸哭，命令三军缟素，随后以哀兵之势，攻下了扬州城。毕师铎夺路而逃。
杨行密进入扬州之后，才发现城中早已粮尽，居民大饥，甚至出现了吃人的情况。杨行密看到这般惨状，遂下令用军粮救济百姓，但仍旧无法满足百姓的需求。扬州城满目疮痍，不利于攻守，杨行密便率部回到大本营庐州休整。随后的几年里，杨行密又先后攻下了宣州（安徽宣城）、泗州（江苏）、濠州（安徽凤阳）、寿州（安徽寿春）等地，后又攻破孙儒的50万大军，重占扬州。杨行密为了扩充军事实力，还在孙儒的降卒中精选5000名强壮的士兵组成了自己的亲军。这支亲军待遇优厚，身披黑色重甲，所以又号称“黑云都”，后来成了杨行密作战时冲锋陷阵的主力。同在这一年，杨行密被唐朝廷任命为淮南节度使。几年后，又被唐昭宗封为弘农郡王。不久，朱瑾和李承嗣等著名战将相继来投，杨行密实力大增，自此以后，更是战无不胜，攻无不克。短短几年时间里，就占据了淮南、江东的大片地区。