此时,淮南争夺激烈。坐镇扬州的淮南节度使高骈老来昏庸,宠信方士,迫害功臣,致使上下离心。淮南将领毕师铎、宣州观察使秦彦起兵反叛,攻陷扬州,囚禁了高骈。高骈亲信吕用之带一部分兵马逃出扬州,假借高骈之名封杨行密为行军司马,命其速速率兵讨伐扬州叛将。杨行密认识到这是一个扩张自己实力的机会,于是率领全部人马火速赶往扬州。
五月,杨行密与吕用之合兵一处,驻扎于蜀冈。毕师铎率领精兵数万来攻。杨行密诈败,弃营而走。毕师铎的军队占领营寨后,就忙着争夺财物,乱作一团。杨行密乘机挥师反攻,毕师铎大败,兵马践踏,死伤不计其数。毕师铎一人回到了城中,恼羞成怒,就杀了高骈。杨行密得知后,哀声恸哭,命令三军缟素,随后以哀兵之势,攻下了扬州城。毕师铎夺路而逃。
杨行密进入扬州之后,才发现城中早已粮尽,居民大饥,甚至出现了吃人的情况。杨行密看到这般惨状,遂下令用军粮救济百姓,但仍旧无法满足百姓的需求。扬州城满目疮痍,不利于攻守,杨行密便率部回到大本营庐州休整。随后的几年里,杨行密又先后攻下了宣州(安徽宣城)、泗州(江苏)、濠州(安徽凤阳)、寿州(安徽寿春)等地,后又攻破孙儒的50万大军,重占扬州。杨行密为了扩充军事实力,还在孙儒的降卒中精选5000名强壮的士兵组成了自己的亲军。这支亲军待遇优厚,身披黑色重甲,所以又号称“黑云都”,后来成了杨行密作战时冲锋陷阵的主力。同在这一年,杨行密被唐朝廷任命为淮南节度使。几年后,又被唐昭宗封为弘农郡王。不久,朱瑾和李承嗣等著名战将相继来投,杨行密实力大增,自此以后,更是战无不胜,攻无不克。短短几年时间里,就占据了淮南、江东的大片地区。