当天晚上，郑成功依据形势的变化，重新布置军队，以观音山至观音门一带为集结地点，准备同清军决战。派左先锋镇杨祖统帅援剿右镇姚国泰，后劲镇杨正，前冲镇蓝衍屯扎大山上，作犄角应援；中提督甘辉，五军张英伏于山内；左武卫林胜，右虎卫陈魁列阵于山下迎敌；他自己督右虎卫陈鹏，右冲镇万禄在观音门往来策应；后提督万礼，宣毅左镇万义等堵御桥头大路；右提督马信，宣毅后镇吴豪，正兵镇韩英由水路抄蹑其后；左冲镇黄安专门负责水师，防止清军由水上来犯。
另一方面，南京城中的清方大员梁化凤，管效忠出战得胜后，决定在第二天全力出击。他们部署由总兵梁化凤等率领主力由陆路出战；提督管效忠等领军由水路配合；总督郎廷佐等留守南京城。二十四日晨，清军从观音山后分路直攻杨祖部军，郑军四镇虽然顽强抵抗，终因兵力不敌，几乎全线崩溃，前冲镇蓝衍阵亡，杨祖，杨正，姚国泰领残兵逃窜，山头遂被清军占领。郑成功派右虎卫陈鹏，右冲镇万禄登山救援，但为时已晚。清军乘胜由山上以压顶之势向明军猛扑，一举包围了驻守山谷内的中提督甘辉，五军张英部，二将领兵死战不得脱身，甘辉被俘，张英阵亡。列营于山下的林胜，陈魁两镇也全军覆没。后提督万礼等在大桥头遭到清兵首尾夹攻，兵败，万礼被俘，万义泅水逃出。郑成功见陆师已经全线崩溃，命令参军潘庚钟站在表示统帅驻处的黄盖下面，自己率领亲随卫士赶往江边调水师。但是，败局已定，有限的水师既要保护随军眷属，又要为撤退留下后路，没有力量扭转战局了。清军乘战胜之威进攻郑成功的指挥所，潘庚钟指挥众人力战直至阵亡。郑军虽败，其将士的顽强奋战精神实为令人赞叹。据记载，清军指挥战役者之一的梁化凤事后感叹道：“当劲敌多矣，未有如郑家之难败者。”至此，攻取南京的战役完全失败，郑成功只有收集残兵，另图他策了。
二十五日，郑成功率领败军乘船到镇江，查明将领和兵员损失情况，把阵亡和被俘将领部下的士卒拨归其他将领统辖。二十八日，即主动放弃镇江，瓜州等城市，全军退出长江口。
八月初四日，郑成功军退到吴淞口。郑成功有意攻占崇明县城以控制长江出海口。初十日郑军登陆崇明，次日上午开始大举攻城，郑成功亲自督战。清守军据城顽强抵抗。郑成功部将韩英和王起俸奋勇攻城，被清军火铳击伤，几天后伤重而死。郑成功还想让其他将领带兵猛攻，部将周全斌建议说，攻城受损严重，士卒无心恋战，而且攻下此孤城绝岛也没有太大益处，不如回师南下休整。郑成功采纳了他的建议，传令班师。
在郑，清南京战役中被清军俘虏的甘辉，万礼，余新等人被押解到清军总督郎廷佐等满汉官员面前，万礼，余新下跪，甘辉脚踢他们怒骂道：“痴汉尚欲求生乎！”大骂不屈，被杀。
考察郑成功南京之役的失利，原因有骄傲轻敌为清廷守将欺骗等等，但更大的失策可以追溯到他的私心自用。南京战役显示出郑军具有相当强大的兵力，倘若之前李定国，孙可望军威强盛之时，郑成功真心拥戴永历朝廷，亲率主力配合李定国会师夹攻，江南必下无疑。但他当时始终按兵不动，直到清军占领贵州，永历朝廷已经很难招架的时候，他才大举进攻南京。换句话说，郑成功的复明是以他自己为首的“明”，在西南永历朝廷明军兵势尚盛时候，他绝不肯出兵配合作战；他的战略是西线明军败退已远，又还牵制着清军主力时大举出兵收取江南。但这种各自为战的私下小算盘的战略，相比较于清廷的权威集中，用兵总能够着眼于全局，明显处于劣势。总之，郑成功的设想和举措同李定国等人很不一致，以往许多历史学家常常把郑成功同李定国，张煌言等描绘成志同道合，但实际情形显示他们是志不同，道不合的。南明之所以未能中兴，关键就在于许多实力集团的首脑都视本集团的利害高于抗清大业。
郑成功的长江战役虽然以失败告终，仍然不失为明清之际历史上光辉的一页。它是清初反对满洲贵族推行暴虐的民族征服政策的最后一次大规模战役；它曾经使得清廷统治者闻风丧胆，坐卧不安，各地仁人志士为之兴高采烈，翘首以待。清廷于险胜之后，痛恨江南地方官员无能，严厉处置了多名高官。并在两年之后，大规模实行沿海迁界（简称迁海），同郑成功，张煌言指挥的长江战役有密切关系。（待续）
