李孝常死了，孟州也落入了汉国手中，长安一片哗然，他们赶紧派出使节诘问李承宗，为何要重新开战，双方不是签订了停战协议了嘛？难道你们汉国一点诚信与仁义也不讲？结果李承宗一句协议就是用来撕毁的，打破了长安的幻想。
得，人家摆明了就是要欺负你，这仗还真的不能不打，罗艺也不能不救，最终长安拿出来了一个所谓的围魏救赵的办法，那就是唐军出兵攻击汉国南方重镇南阳，以达到迫使李承宗分心，以达到调动汉军野战主力南下，解幽州之围的效果。
按照长安朝廷的意思，赵郡王李孝恭和李靖在武德四年五月出兵十万号称三十万，气势汹汹杀奔南阳，唐军浩浩荡荡相连60余里。相反，南阳城内的汉军竟然不满五千人。尽管双方对比实力悬殊，但是南阳知府张文松与守备指挥使杨锐这两名文武官员，还是临危不惧，广泛发动全城老百姓参战，甚至连老弱妇孺也没有置身事外，做些力所能及的事，积极搬运粮草器械。
唐军围城数重，先以密集的箭雨和抛石机发射的石块轰击城墙，然后拥着数十具“云梯”前进，企图强行登上城墙。守军利用城里的十余座“飞楼”，居高临下，不断用枪支和弓弩射杀云梯里的敌人，最终化险为夷。
唐军既然用云梯攻城受挫，便改用“天梯”，它比城墙还要高，宽达二丈，表面全部铺上防御弓箭的木板，前后有门，大批士兵藏在中间的通道里伺机攻城。
汉军守军在杨锐的指挥下，随机应变，见招拆招，点燃了涂满油脂的芦苇束，抛向逼近城墙的天梯。熊熊烈火顷刻间就将数十具天梯焚烧殆尽，唐军士卒纷纷弃梯而逃，跑得慢的就在烟熏火燎中活活烧死。
夏季天气酷热，城头上的汉军将士一面用大锅煮茶解暑，一面向城下的敌人泼洒滚烫的热水。而攻城的唐军士卒口干舌燥，徒呼奈何。到了晚上，城内又有壮士潜出城外劫营，唐军整夜喧哗，不能休息。
唐军毕竟是一支封建军队，在攻城期间在南阳城郊杀掠甚酷，周边四五十里的范围内，尸骨遍地，满目疮痍。李孝恭见南阳屡攻不克，再也无计可施，无奈听从李靖的建议，退兵后撤到汉江江边的汉源驻扎。
唐军在南阳城下碰了个头破血流，未来的军神李靖，在这次战役中充分领教了汉军的厉害，就在他在休整的片刻，准备写点战争总结的时候，前方传来消息，汉军主力和他们遭遇了。
汉军统帅是李承宗的舅父裴仁基，他不熟悉汉军火器的性能，但是他竟敢亲自逆风架炮，轰击唐军，结果被猛风吹回的硝烟火焰烧光了胡须，搞得灰头灰脸的，还灼伤了手臂，在手忙脚乱中几乎坠入水中，左右部属抢着搀扶，现场一片狼藉。
唐军顺风反扑，汉军损失了数百人，一度后退到黄家渡附近，随后进行了多次反击。李孝恭看见不能一口吃掉对手，也率军返回了自己的出发地汉源，他将舟师排列成方形阵势，步兵则上岸安营扎寨。