唐宣宗大中六年（852年），庐州合肥一个普通的农家，降生了一个男孩，取名杨行愍，后改名行密（为图方便，以后都只称杨行密）。杨家世代为农，家境贫寒，乱世之中，苛捐杂税繁重，生活更是艰难。杨行密自幼身材高大，臂力过人，远超同龄人。他性情沉毅，寡言少语，但眼神锐利，与众不同。成年后饿急了组织乡民抢掠官府粮食，失败后被打入大牢。刺史郑棨（音同七）是个读书人，信奉“子产治国，宽猛相济”的道理，他见杨行密“状貌甚伟，果非常人”，没有判死杨行密，还让他做了一个州兵。自此杨行密的人生发生了改变，还吃上了皇粮，后来一步一步升任了队长。
乾符年间（874-879年），王仙芝、黄巢起义爆发，天下大乱。各地藩镇为了自保或扩张，纷纷扩军，同时也将一些难以管束的部队调往他处，以防肘腋之患。新任庐州刺史郎幼复觉得杨行密这类勇武难制的军汉留在身边是个隐患，便寻了个由头，将其所在部队调往遥远的西北边境戍守。这是一条近乎送死的命令。当时边境动荡，戍卒生活极其艰苦，且生还率极低。
命令下达，军中怨声载道。杨行密心中更是充满了屈辱和愤怒。他自问作战勇猛，从未违抗军令，却遭此不公待遇。临行前，他求见负责此次调派事宜的都校郎琦，试图陈情，哪怕只是延缓行程。
然而，这个郎琦高高在上，根本不屑于听一个底层军头的解释，反而对其厉声呵斥，催促其即刻启程，言语间极尽侮辱。
多年的压抑和不公在这一刻彻底爆发。杨行密沉默地听完训斥，眼中寒光一闪，不再多言。他转身走出军帐，看似服从，心中却已燃起滔天怒火。
行至中途，队伍歇息。杨行密看准时机，突然暴起！他犹如一头被逼入绝境的猛虎，以迅雷不及掩耳之势，扑向毫无防备的郎琦！
“狗官！欺人太甚！”杨行密一声怒吼，如同惊雷。他力大无穷，徒手便将俞公楚掀翻在地，未等其亲兵反应，已拔出腰间短刀，手起刀落！
鲜血喷溅！趾高气扬的都校，顷刻间便成了一具尸体。
所有戍卒都惊呆了，现场一片死寂。杨行密持血刀而立，目光扫过惊恐的众人，沉声道：“朝廷失政，宦官当道，贪官污吏横行，致使天下大乱，民不聊生！今我等奉命戍边，九死一生，此等庸官却仍视我等如猪狗！杨某已手刃此獠，反亦死，不反亦死！尔等可愿随我，杀回庐州，另寻生路？!”
这些戍卒本就心怀怨愤，见主犯已死，又素来佩服杨行密的勇武，当下便有多人响应：“愿随杨头领！”、“反了！”
杨行深知，杀了朝廷命官，已无退路。他立刻整顿愿意跟随他的百余名士卒，抛弃所有辎重，轻装疾行，不再向北，而是折返向南，一路避开官军和州县盘查，钻入庐州北部的八公山中。
八公山山势险峻，林木茂密，正是落草起事的理想之地。杨行密以此地为根据地，自称“八营都知兵马使”。他们出击附近富户、庄园，劫掠粮草物资，同时也攻打小股的官军和地主武装，以战养战。
杨行密虽出身低微，却展现出非凡的领导才能和人格魅力。他与部下同甘共苦，分配战利品公正无私，作战时永远冲锋在前。他纪律严明，严禁骚扰普通百姓，提出“劫富济贫”的口号，渐渐赢得了一些贫苦百姓的同情甚至支持。附近走投无路的农民、溃散的士兵纷纷来投，队伍逐渐扩大至数百人。
然而，他们的处境依然极其艰难。庐州刺史岂容眼皮底下有这样一股武装力量？多次派兵进山围剿。杨行密利用熟悉地形的优势，与之周旋，时而设伏，时而偷袭，屡次击退官军。但官军势大，长期困守山区，粮草兵源皆难补充，绝非长久之计。
很快机会来了。高骈对不听话的庐州刺史心怀不满，又听闻境内杨行密这号人物，便起了“以贼制官”、趁机吞并庐州的心思。
他派使者秘密联络杨行密，许以高官厚禄，暗示支持他取代现任庐州刺史。对杨行密而言，这是天赐良机！能得到高骈这样的大军阀的口头支持，无疑极大地增加了他的政治资本和成功几率。
与此同时，庐州刺史也感到了来自杨行密和高骈的双重压力。他试图先发制人，调集州兵，准备剿灭杨行密。双方矛盾彻底公开化，火并一触即发。
中和三年（883年），决定庐州归属的关键时刻到来。
杨行密先发制人。他率领军队，以“刺史无道，克扣军饷，谋害忠良”为名，直扑庐州治所合肥县。
庐州刺史仓促应战，双方在合肥城外展开激战。杨行密的军队虽在数量上可能不占优势，但皆是百战余生、士气高昂的老兵，且对刺史充满怨恨，战斗力极强。而州兵则久疏战阵，将领贪生怕死，士气低落。
杨行密身先士卒，手持长矛，亲自冲击敌阵，所向披靡。麾下将士见主帅如此勇猛，无不奋勇争先。战斗呈现一边倒的态势。州兵很快溃败，刺史被擒杀。
杨行密大军顺利进入合肥城。他立即下令安抚百姓，严肃军纪，秋毫无犯，迅速稳定了城内秩序。
随后，杨行密迅速向扬州的高骈报捷，并“恳请”高骈表奏自己为庐州刺史。高骈见木已成舟，杨行密又如此“懂事”，乐得顺水推舟，既得了庐州地盘，又得一员悍将，便正式表奏杨行密为庐州刺史。
此时的唐廷，对江淮地区已无力控制，对于高骈的奏请，只能予以承认。就这样，年仅三十一岁的杨行密，从一个被迫造反的戍卒、八公山的“山贼”，奇迹般地成为了大唐朝廷正式任命的庐州刺史，完成了人生中最关键的一次飞跃。