1658年（顺治十五年，永历十二年），清军三路进兵西南，李定国等战败，永历朝廷形势危急。郑成功见清方主力集中于西南，认为这是扩大以自己为首的东南抗清基地的大好时机，决定率领主力乘船北上，展开长江战役。这年五月，中提督甘辉统领前军乘船进至沙埕，在桐山一带征粮。郑成功亲自带领的主力也到达距沙埕三十里的岑屿。六月初十日起，张煌言，甘辉，马信等集中兵力进攻温州府属的瑞安县城。清政府除集中浙江驻守军加强防御外，还从河南，江西，山西，山东抽调兵马增援。郑军在温州地区征集粮饷后，移舟北上，准备入长江，攻取南京。
八月初九日，郑成功统领大批兵马乘船由浙江舟山进抵羊山（今大洋山）。这里是海道必由之路，南至定海，北至吴淞，是江浙交界之处。此行的目的如郑成功所说：“我提师望复神京，以为社稷。”初十日中午，郑成功召集各提督商讨进兵机宜。不料天公不作美，忽然之间乌云翻滚，狂风骤起，暴雨倾盆，巨浪滔天，郑军舟船对面互不相见，相互碰撞和被巨浪掀翻，很多船只倾覆损坏。郑成功的六位妃嫔，第二，第三，第五个儿子都被淹死，兵将，船舰，器械损失巨大。郑成功遭受这一意外打击，只好暂回舟山休整。
八月十四日，郑成功督师回到舟山进行整顿，由于岛上一片荒芜，大军难以久留，九月初，郑军船只分三帮经舟山群岛与镇海县之间的海峡南下。这次动员的兵力据清方档案记载至少有船舶一千多艘，留守金，厦一带的兵力自然就比较薄弱。清福建提督马得功乘机出兵攻占了泉州附近的郑军基地白沙。郑军中一些清方投降过来的北方兵将不习惯海上军旅生活，被之前在羊山经历的飓风吓坏了，纷纷逃走。郑成功一面整顿队伍，制造器械，修补船舰，筹集粮饷，准备明年再举；一面在南返途中攻克台州，海门卫，黄岩县，磐石卫，乐清县等浙江沿海要地。大致而言，在第一次北征受挫到次年五月入吴淞口进攻南京的半年多时间里，郑军主力一直驻于浙江沿海一带，郑成功本人也往来于磐石卫，沙关（今浙江，福建交界处之沙埕）二地。
1659年（顺治十六年，永历十三年）二月二十日，郑成功由沙关来到磐石卫，下令各提督，统领，总镇“速办船只，催完饷务，限三月内齐到磐石卫听令”，着手部署长江战役。这次准备有两个特点：其一，加强了金门，厦门基地的防务；其二，命令将士携带家眷随军行动。关于第一点，郑成功吸取了上年北伐时清军乘虚而入攻陷白沙的教训，加强了留守金门，厦门的兵力。这对于保证后方基地安全和牵制福建清军起到了重要作用。关于第二点，郑成功用兵历来是把将士的家属安置于后方比较安全的地方，派兵保护；这次一反常态命令携带家眷，还特地指派忠靖伯陈辉，宣毅前镇陈泽率领水师一镇保护女眷船只，随军行动。郑成功这样做的原因是志在必得，认定攻克南京，收取江南有必胜的把握。但这犯了轻敌的错误。从明清两代战史看，明太祖朱元璋就规定将领出征不得携带家眷，这自然有扣留将领妻子为人质，以防将领叛变的意图在其中，但客观上对于将士在前线作战时无旁顾之忧显然具有积极作用。清朝制度也类似。郑成功此一决策的失误，对于进入长江后郑军不愿舍舟陆行，南京城下战败后匆促撤出长江显然都有密切关系。
郑成功在1659年大举进攻南京是基于下述几点考虑：其一，据他所得情报，清军主力除了留守北京以外，已经开赴云贵一带，驻防南京一带的兵力非常薄弱；其二，他从内地复明志士处得知江南各地汉族官绅士民反清的潜在势力还相当可观，判断以优势兵力大举展开长江战役，必将收到远近来归的效果；其三，江南是全国财政的主要来源之地，又是全国的腹心之区，一旦夺得该地，不仅将使得明，清在经济实力上发生逆转，而且攻克南京后乘势收取长江中下游，将造成清朝统治区南北隔断，为下一步用兵创造有利条件；第四，朱元璋是以南京为基地完成统一大业的，南京在明代先后是京师和留都，尽管清朝在顺治二年将其改为江宁府，但在相当多的人们心目中南京依然是全国的政治中心之一。因此，在郑成功等人看来，攻下南京，收取长江中下游各地，复兴大业将由出没海岛之间转移到龙蟠虎踞的石头城，明清相持的局面就会大为改观。这就是郑成功等人发动长江战役的基本战略意图所在。（待续）
