公元404二月二十八，刘裕在京口举义，首先揭起反对桓楚的大旗。他问何无忌道：“我现在急着须要一位主簿，哪里可以找到一位合适的？”何无忌说：“我觉得没人比得上刘道民。”刘道民就是东莞人刘穆之。刘裕说：“我也认识他。”便让人带信飞马前去召他。当时刘穆之听到京口一片喧哗，早上起来，便出了陌头想去打探是怎么回事，结果恰好遇上信使。刘穆之看了信后，呆呆地瞪着信使，好长时间说不出一句话来。回到家里后，他把长裳改成骑马的衣袴，骑马去见刘裕。刘裕说：“我刚开始兴举大义，一切都很艰难。现在急着须要一位军吏，先生以为谁能够胜任？”刘穆之说：“贵府刚开始兴建，军吏实在必须是个人才。仓猝之际，应当找不到比我更胜任的了。”刘裕笑道：“先生能够自我委屈，我的事成了。”当即在座上就任命他为主簿。
同时在江北，孟昶劝桓弘出去打猎。天还未亮，孟昶便借口准备出猎，让人打开青州府门。事先准备好的刘毅和刘道规便率领壮士数十人直接进入府邸。桓弘当时正在吃早粥，就莫名其妙地被杀了。刘毅他们于是南渡长江。刘裕接着派刘毅率众到京口杀了刁弘。
先前，刘裕曾派同谋周安穆到建康邀请刘迈入伙。刘迈虽然应酬着许了诺，但表现得迟疑惶恐。周安穆担心事泄，便急忙骑马离开了。桓玄后来任命刘迈为竟陵太守，刘迈便急着要离开前往竟陵郡。当夜，桓玄让人给刘迈送了封信问他：“北府的人情怎样？先生近来见到刘裕都说了些什么？”刘迈以为桓玄已经知道了他们的阴谋，一早起来便向桓玄坦白了。桓玄大吃一惊，当即封刘迈为重安侯。后来又嫌刘迈没有拿下周安穆，让他逃去，便杀了他，同时还把刘裕派到建康的王元德、辛扈兴、童厚之等人都杀了。
众人推举刘裕为盟主，总督徐州事务。刘裕以孟昶为长史，守卫京口，以檀凭之为司马。应募的彭城人，刘裕全让郡主簿刘钟统领。二月二十九，刘裕率领二州的兵众一千七百人，驻扎在竹里，到处传送檄文，扬言说益州刺史毛璩已平定了荆楚一带，江州刺史郭昶之正带着晋室皇上从寻阳返回的路上，镇北参军王元德等人以及他们带领的部曲已经占据了石头，扬武将军诸葛长尼也已占据了历阳。
刘裕送到京师的檄文是这么说的：“治世和乱世互相轮换，按常理这世上不会长久太平。奸猾狡诈肆行的世道，也可能紧接着圣明的世道。自我大晋建国以来，总是遇到灾祸横行的年光。隆安（397）以来，灾难一直纠缠着皇室。忠臣落入虎口，贞良死于豺狼。逆臣桓玄，陵虐世人，鬼都不放过。他起兵于荆州郢都一带，到京都放肆暴行。上天尚未惩罚他，因而使他的暴力暂时得逞。一年之间，竟然倾倒皇运。主上被流放异地他乡，社稷的神器沉沦，七座宗庙也被毁坠。当年夏朝经历了寒浞和寒豷的灾难，汉朝也遭遇了王莽和董卓的篡逆。但这些历史对于桓玄来说，却不足引以为训。自从桓玄篡位以来，到现在已经将近一年，严重的干旱一直持续，民众毫无生气。加上士大夫和庶民为了职位转换和运输疲于奔命，文武大臣也因为他的大兴土木困顿流离，搞得父子分隔，家室离散。哪里只是《大东》和《摽梅》（诗经里的诗）里才有妇女被压迫的悲叹和怨恨！眼前的现实就是这样。仰观天文，俯察人事，这样的局面岂能长久，桓玄岂能不灭亡！凡是有心人，谁不扼腕长叹。
“这就是我刘裕等人之所以沤心泣血，急着起义的原因。因此我们不辞辛苦，倡导忠烈，暗中历经崎岖，甘冒艰险。辅国将军刘毅、广武将军何无忌、镇北主簿孟昶、兗州主簿魏咏之、宁远将军刘道规、龙骧将军刘籓、振威将军檀凭之等人，忠烈可以断金，精神可以贯日，挥袖执戈，志在为国牺牲。益州刺史毛璩，万里之外和我们齐心默契，已扫定了荆楚一带。江州刺史郭昶之，奉迎主上，已在寻阳建立了临时朝廷。镇北参军王元德等人，率领部曲，已占据了石头。扬武将军诸葛长民，收集义士，已占据了历阳。征虏参军庾赜之等人，暗中互相连结，以为内应，同心协力，在所在地举起义旗，即日已经砍下了伪徐州刺史安城王桓修和青州刺史桓弘的首级。义众已经集合起来了，文武争先，都认为要没有统一的指挥，大事就难以成就。
“我刘裕因此不辞劳苦，决定总揽军要。如果有幸上凭祖宗的英灵，下靠义士的努力，我们定能翦除逆贼，荡清京辇。你们公侯诸君，要么世代忠贞大晋，要么身受大晋恩宠，然而现在却俯首侍奉这奸猾小人，而不能为大晋效力。你们这样瞻前顾后，难道不可悲可叹吗！今日我们的大举，是你们赎罪的机会。我刘裕以虚薄之身，也没有古人的才干，却敢于在朝代更替的时机接过这势头，在这已经颓败的气运下接受这大任。我的丹心和赤诚尚未宣泄，感慨愤怒之情已跃然纸上。望着霄汉我永怀皇恩，看着山川我增励斗志。授檄之日，神驰贼廷。”
桓玄移回到上宫，召服侍官员都进入省部禁中；同时加扬州刺史新安王桓谦为征讨都督，任命殷仲文取代桓修为徐兖二州刺史。桓谦等人请求尽速派兵攻击刘裕，桓玄说：“对方兵力十分精锐，个个都抱着必死的决心。如果一旦有什么闪失，则对方的大气成了，而我们的大事去了。不如把大军驻扎在覆舟山以逸待劳。对方白走了二百里，一无所得，锐气一定受挫。那时忽然见到大军，必然惊愕。我按兵不动，坚守阵地，不跟他们交锋。对方求战不得，自然散走。这才是上策。”桓谦等人再三请求出击，桓玄便派顿丘太守吴甫之和右卫将军皇甫敷相继北上。桓玄忧虑恐惧得特别厉害。有人说：“刘裕等人不过是微弱的乌合之众，势必无成。陛下为何忧虑得这么厉害！”桓玄说：“刘裕足以成为一世的英雄。刘毅家里没有一担石的储存，樗蒲赌博时却敢于一掷百万。何无忌酷似他的舅舅（刘牢之）。这些人共举大事，怎么可以说势必无成！”
当初，袁真杀了朱宪，朱宪的弟弟朱绰逃奔桓温。桓温攻克寿阳之后，朱绰当即打开袁真的棺柩，杀戮他的尸体。桓温大怒，要杀了朱绰，幸好桓冲再三请求才免了一死。朱绰于是像对待父亲一样事奉桓冲。桓冲去世后，朱绰痛苦得呕血而死。刘裕攻克了京口之后，任命朱绰的儿子朱龄石为建武参军。三月初一，刘裕的军队和吴甫之的军队在江乘相遇。将要开战时，朱龄石跟刘裕说：“龄石世代受到桓氏的厚恩，不想以兵刃相见。我乞求留在军队后面。”刘裕因为他的义气答应了。吴甫之是桓玄的骁将，他的兵马也非常精锐。刘裕手执长刀，大呼着身先士卒地向敌军冲锋。吴甫之的士兵纷纷倒退，吴甫之自己也战死了。于是刘裕进到罗落桥，皇甫敷率领几千人出战。宁远将军檀凭之失败战死，刘裕却越战越勇。皇甫敷将他包围了好几重，刘裕靠着一棵大树挺身而战。皇甫敷问道：“你要怎么死痛快！”说着挺着长戟将要刺过去。刘裕圆睁双眼大声叱喝，皇甫敷的长戟刺偏了。刘裕的部众正好赶到，皇甫敷的前额中箭跌倒。刘裕挺刀直冲上前。皇甫敷临死前跟刘裕说：“你有天命。我死之后，请照顾我的子孙。”刘裕杀了他，后来真的非常优厚地抚养他的遗孤。刘裕将檀凭之带领的兵马配给参军檀祗。檀祗是檀凭之的侄子。
檀凭之字庆子，是高平人。他少有年时就有志气。他的家门和睦而有教养，被世人称道。他堂兄的儿子檀韶兄弟五人，都在孩童时就成了孤儿，檀凭之抚养他们就像自己的儿女一样。檀凭之最初担任会稽王骠骑行参军，后转为桓修的长流参军，领东莞太守，加宁远将军。檀凭之和刘裕有乡邻的友谊，又多次一同在东部讨伐孙恩，所以关系非常密切。刘裕举起义旗时，檀凭之和刘毅都遇到亲人去世，但依然头上和腰间带着麻绳前去参加。他虽然才望在刘毅之后，然而官阶和威望都超过他，所以刘裕任命他为建武将军。
当初，刘裕和何无忌等人共建大谋时，曾与何无忌和魏咏之在檀凭之的住处聚会。恰巧善相面的晋陵人韦叟也在那里。他给刘裕和何无忌等人相命，说他们都会大贵。然而见到檀凭之时，大惊道：“你很快就有兵马的厄运，看样子也不过三四天而已。你应当深藏避祸才好，不可轻易出去。”刘裕和何无忌私下议论道：“我们大家既然同舟共济，道理上不该有所偏异。我们如果都得到富贵，那么檀凭之就不应独独例外。”都很不理解相面人的话。后来檀凭之战死，应验了相面人的话，所以刘裕知道他的大事必定成功。
桓玄听说他的两员猛将吴甫之和皇甫敷都战死了，大为恐惧，便召各位道术人来推算运气以及如何辟邪。他问群臣道：“朕会失败吗？”吏部郎曹靖之回答道：“现在民怨神怒，臣实在担心。”桓玄问道：“民众或许有些怨言，但神祗为何发怒？”曹靖之答道：“晋氏的宗庙，飘泊到江滨。而大楚的祭祀，不及祖父。这就是神祗发怒的原因。”桓玄问道：“爱卿当时为何不劝谏？”曹靖之答道：“朝廷上的君子们都以为现在是尧舜的盛世，臣怎么敢说话！”桓玄默然无语。他派桓谦和游击将军何澹之进驻东陵，侍中兼后将军卞范之进驻覆舟山西面，两军合起来有二万人。
三月初二，刘裕军队用食完毕，便抛弃了剩余的军粮，轻装抵达覆舟山的东面。他派羸弱的士兵登上山头，大张旗帜作为疑兵，几道并进，似乎布满了山谷。桓玄的侦察兵回报说：“刘裕的军队四处都是，不知道有多少人。”桓玄愈益担忧恐慌，便派武卫将军庾赜之率领精卒驰援其他各军。桓谦等人的士卒多数是北府人，一贯对刘裕既害怕又佩服，因此都没了斗志。刘裕和刘毅等人分为几个队伍，突袭桓谦的阵容。刘裕身先士卒，部下将士也都殊死奋战，无不以一当百，呼声震动天地。当时东北风吹得很急，刘裕趁机纵火焚烧，烟雾蔽天，鼓噪之音震动京邑。桓谦等人的各路大军不战自溃。
桓玄当时虽然派军队去抗拒刘裕，但他自己先逃走的主意已下，便暗中派领军将军殷仲文在石头城准备好了船只。一听说桓谦等人战败，他便带上亲信数千人，扬言说要出战，早就带着儿子桓昇，兄长的儿子桓浚出了南掖门。路上遇到前相国参军胡藩，拉住他的马鞚劝谏道：“现在羽林射手还有八百，都是义士。西边人受到陛下家族世代的恩情，如今不带着他们拼死一战，一旦离开他们，陛下还有什么地方可以安身？”桓玄没回答，只是举着马鞭指着天空，然后策马而走，往西直奔石头，接着和殷仲文等人顺水往江南出走。他一整天没吃饭，左右随从送上粗茶淡饭，桓玄吃不下。桓昇抱着他的胸口安慰他，桓玄悲不自胜。
刘裕进入建康，王仲德抱着王元德的儿子王方回出城等候刘裕。刘裕在马上抱起王方回与王仲德对哭。然后他追赠王元德为给事中，任命王仲德为中军参军。刘裕接着来到桓谦的故营，派刘钟去占据东中郎将府。三月初三，刘裕进驻石头城，建立临时朝廷，安置百官，并在宣阳门外把桓温的神像给烧了，然后让人雕塑新的历代晋帝的神像，放在太庙里。刘裕接着派遣部将追赶桓玄。尚书王嘏带领百官奉迎乘舆，并派人去捉拿并诛杀桓玄在建康的宗族成员。刘裕派臧熹入宫，收集图书、器物，并封闭了府库。当时在宫里发现一具金饰乐器，刘裕问臧熹道：“先生不想要这东西吗？”臧熹正色地回答道：“圣上被幽禁逼迫，流落他乡。将军首建大义，恢复帝室。我虽然不肖，但实在也没有心情在声乐上头。”刘裕笑着跟他说：“跟你开开玩笑而已。”臧熹是臧焘的弟弟。
要想知道刘裕和桓玄后来的情况，请看下篇文章。
