二月二十一日，原豫章太守徐璒等人设宴招待王世积、权武等人，王世积不辨真假，欣然前往。
席间，徐璒等人密谋诛杀王世积，幸亏王世积部下死战，王世积方才得免。而此时城中陈叔英联络的南陈军尽皆倒戈，南陈旧卒挥舞着狰狞的钢刀，向毫无知觉的隋军杀去。隋军大乱，不能自顾。
当时黄牵正在城北，见到城头火起，心知不好。为了收拾局面，便率军向城内杀去。
此时江州城已经大部陷落在南陈旧军的手里。北门几乎已失，双方为争夺北门，战况焦灼，黄牵拼死才杀入城中。
王世积、权武等人狼狈不堪，也不管军队的事了，只是一个劲地逃命。多亏了黄牵的接应，才杀出重围，汇合了黄牵的队伍。
王世积此时浑身颤抖，心力交瘁，准备先行突围。等到了南边，引回千金县公权始璋在南线接收江西的队伍，再返回来收复江州。
黄牵却反对这种做法，他对王世积劝道：“总管，现在城内虽乱，不过是因为敌人骤然发难，其实南蛮不多，我军各部也皆各自抵抗。只要我军整顿兵马，反杀过去，必可将城中南陈乱党一网成擒。若是现在放弃江州，则隔断了江东与荆襄的联系，若是南陈余孽借此串联，使贼势蔓延，恐遗大祸。”
“是本总管领军还是你领军，再敢胡言乱语乱我军心者，杀无赦。”
王世积此时早就吓破胆了，心气全无，哪还敢再战。斥退了黄牵，便继续领着大军向南逃窜。
陈叔英等人撤机扫清了隋军在城内的抵抗势力，彻底占领了江州城。原本一直在观望的南陈降卒这个时候也纷纷换了旗帜，倒戈相向，一时之间，南陈军军势大振。
纪瑱是老将，知道现在江州的强大是虚的，若是王世积将分散的各地隋军召回，双方还得相持一段时间。而那个时候，各路的隋军早就反应过来了，杨素、贺若弼这些人也会率大军向江州集结。
为了争取更多的时间，纪瑱并不准备放过王世积，他一定要将其截杀。
趁着夜色，隋军一路南逃，而南陈军则紧追不舍。
看着南陈军追得越来越近，溃不成军的隋军只剩下被歼灭的命运。众人惊慌，不知所措，却忘了手中钢刀的锋利。
这时候，惊慌失措的王世积强迫自己镇定下来，却反应过来，此次自己丢了江州，是个大罪。若是圣人怪罪，再加上蕲口的大败，他就再无翻身的可能。
王世积不愿意背上这个罪状。
看着黄牵，王世积决定就让黄牵背这个黑锅。
当时情况危急，王世积便命令黄牵留在原地阻挡南陈追兵，自己引救兵回援。而权武等人见可以趁机南逃，本就对黄牵连战连胜不满的他也同意此意见。
黄牵见此没有办法，便请求二人派兵埋伏在万家岭，接应自己。
黄牵说道：“请总管将各修整的军马在万家岭埋伏起来，当南陈军来时，便高竖旗帜，诈做我军援军，做出支援左右翼的样子，贼军必然上当。等我转战到万家岭上，立刻掉过头来，从高往低，直击对方中军，而总管率军从两翼夹击，到时必可击败南陈军的追兵，还可趁势收复江州城。”
二人听了这个建议，欣然同意，但黄牵怕王世积弄诈，又亲自请求权武在万家岭接应自己。但没想到，二人过了万家岭，各心照不宣的继续向前，准备让黄牵继续阻敌。
双方都知道这一战二人责任重大，其罪不能恕，但若是能往外推一些，自己便少一些。黄牵如此不识抬举，正是给二人替罪的最好人选。
黄牵面对数倍南陈军，奋力交战。所部两千余人从半夜杀到第二日早上，一路向南，且战且退，终于退入万家岭。
万家岭岭高不足五十米，三面高丘包围，地势险要，易守难攻。进入岭上的黄牵没有见到隋军的踪迹，本就心疑。但见南陈军紧追不舍，他只得按计划率军反冲。
南陈军措不及防，前军阵脚大乱。黄牵继续攻击，却发现没有任何隋军伏兵杀出。这时他才知道权武和王世积二人欺骗了他，独自逃走了。
向前无路，身后有敌的黄牵陷入了南陈军重重包围之中。
此时天又降大雨，土地泥泞，马不能行。黄牵拍着胸膛非常悲恸，继续率领部下士兵奋力作战。最后黄牵所部力战矢尽，只得与南陈军短兵接战。众人奋战一夜，其刀矛皆折，而黄牵身上也受了十多处伤，隋军士兵都快死光了。黄牵依然亲手杀了数百名南陈军。
到后来，黄牵的战马也受了重伤，不能前进，身边士兵也凋零殆尽。众人被敌人包围在岭上一处角落。
身负重伤的黄牵义不受辱，望着身边各自带伤的部下，乃脱胄掷地，向贼大骂曰：“何不来斫头也！”遂自刎而死。
其残存的数十名部下，见黄牵身死，也各自横刀自刎。
而逃得性命的权武和王世积二人，狼奔豕突了一整夜，终于来到豫章，而在此的千金县公权始璋则领着大军相迎。
很快，从北面传来了黄牵战死的消息，三人便一同上书杨坚。言黄牵放纵军队在城内劫掠，引起南陈军兵变，又失了江州北门，导致江州失守，黄牵也战死在逃跑的