公元327年十月，庾亮因为苏峻在历阳（今安徽和县）拥兵自重，担心他终究会成为祸害，便不顾朝廷大臣们的一致反对，坚持要下诏征他入朝。
苏峻听说后，派遣司马何仍前往谒见庾亮，请求说：“讨伐贼寇的外任，我不管远近，都惟朝廷之命是从。至于入朝内辅，实在不是我一个武将所能胜任的。”庾亮不听，照样召北中郎将郭默为后将军、领屯骑校尉；任命自己的弟弟司徒右长史庾冰为吴国内史，都带兵用以防备苏峻。庾亮接着让晋成帝下达优诏，内征苏峻为大司农，加散骑常侍，位特进，入朝任职，让苏峻弟弟苏逸代领他的部曲。苏峻上表说：“昔日明皇帝亲自拉着臣的手，让臣北讨胡寇。如今中原尚未安定，臣怎敢自己就此贪图安逸！臣乞求给臣青州地界的一个荒郡，好让臣一展鹰犬的用途。”庾亮再次拒绝了。苏峻无奈，严装准备赴召，但依然犹豫未决。参军任让跟苏峻说：“将军请求到一个荒郡去任职，执政的居然这样都不肯。事情已经到了如此地步，恐怕是没有生路了，还不如勒兵自守。”阜陵令匡术也劝苏峻一不做二不休，干脆起兵造反。苏峻因此拒不应命。
温峤听说后，马上准备率领部众南下保卫建康，三吴地方也打算兴起义兵勤王。但庾亮不同意这么做，反而写信给温峤说：“我对西陲的担忧甚于历阳，足下不用越过雷池（今安徽省望江县南）一步（该成语即出于此）。”朝廷派使者晓谕苏峻，苏峻答道：“执政大臣说我要造反，我怎么还活得了！我宁可在山头上望着廷尉，也不能在廷尉（的监狱里）望着山头。前些日子国家危如累卵，全是靠我得以维持。如今狡兔死了，你们就觉得应当把猎犬烹了。我现在只有以死回报制造阴谋的人！”
苏峻知道豫州刺史祖约也十分抱怨朝廷，便派遣参军徐会去劝说祖约，请和他共同讨伐庾亮。祖约非常高兴，他的侄子祖智和祖衍也都劝他这么干。谯国内史桓宣跟祖智说：“我本来以为强胡尚未消灭，打算和使君一道努力讨伐他们。使君如果想称雄一方，何不帮助国家去讨伐苏峻，那么威名则自然建立。如今却要和苏峻一同造反，这怎么能长久？”祖智不听。桓宣便前往祖约那里求见。祖约知道他想劝谏自己，拒绝接见他。桓宣于是和祖约绝交，不和他同流合污。
十一月，祖约派遣他兄长的儿子沛县内史祖涣和女婿淮南太守许柳领兵会合苏峻。祖逖的妻子是许柳的姊，一再劝谏他，但许柳不听。朝廷下诏再次任命卞壸为尚书令、领右卫将军，以会稽内史王舒代行扬州刺史的职责，任命吴兴太守虞潭都督三吴等诸郡的军事行动。
尚书左丞孔坦和司徒司马丹杨人陶回跟王导说：“明公应当趁着苏峻还没来到，马上阻断阜陵，坚守江西当利的各个要塞口岸。对方人少我们人多，一战就可以解决问题。如果苏峻还没来，我们可以前往威逼他的城池。如果我们不先出兵，苏峻必然先到。苏峻一来则人心惶惶，我们就很难战胜他们。明公切不可错失这一时机。”王导觉得有理，但庾亮不肯听从这一建议。十二月初二（辛亥日），苏峻派部将韩晃和张健等人袭击并攻陷了姑孰（今安徽当涂），得到了那里的盐米储藏，庾亮这才感到后悔。
次日，彭城王司马雄和章武王司马休叛逃到苏峻那边。
十二月十一，京师戒严，朝廷授予庾亮节杖，让他全权都督征讨军事；同时任命左卫将军赵胤为历阳太守，派左将军司马流带兵据守慈湖抗拒苏峻。朝廷又任命前射声校尉刘超为左卫将军，和侍中褚翜负责征讨军事。庾亮派他弟弟庾翼在没有任何官衔的情况下带领几百人守卫重镇石头。
十二月十七，朝廷改任琅邪王司马昱为会稽王，吴王司马岳为琅邪王。
宣城内史桓彝想起兵支持朝廷，他的长史裨惠认为郡里的兵马又少又弱，山民又容易趁机扰乱，觉得应该暂且按兵不动，以等待时机。桓彝厉色地说：“见到对君主傲慢无礼的人，就应当像鹰隼驱赶鸟雀那样把他赶走。如今社稷危急，我怎能心安理得地留在这里。”桓彝字茂伦，是谯国龙亢人。桓彝少年时孤苦贫穷，但他虽然生活简朴，却处之泰然。桓彝禀性开朗，很早就获得盛名。他有鉴别人才的专长，经常从默默无闻或年幼孩童中得到人才，因此当时的人们把他比作三国的许攸和郭淮。桓彝少年时和庾亮深交，很为周顗所敬重。周顗曾叹息说：“茂伦卓然超群，自然可以取笑他人。”桓彝最早担任州主簿，后来参加齐王司马冏的举义，官拜骑都尉。晋元帝司马睿担任安东将军时，任命桓彝为逡遒令，不久又聘为丞相中兵属，累迁至中书郎以及尚书吏部郎。
当时王敦擅权，嫌弃妒忌有名望的士大夫，桓彝于是称病去职。曾经过舆县，县宰徐宁为人开朗博识，桓彝和他相遇后，欣然停留了多日，结交后方才离别。先前，庾亮经常嘱咐桓彝帮他找个胜任的吏部官员，比及桓彝回到京都后，便跟庾亮说：“我为你找到一位吏部侍郎了。”庾亮问人在哪里，桓彝说：“人所应有而不必有，人所应无而不必无。徐宁真是海岱的清士。”庾亮因而叙用了他，马上升迁徐宁为吏部侍郎，后来历任显要的职务。
晋明帝将要讨伐王敦时，拜桓彝为散骑常侍，让他参与密谋。到王敦之乱平定后，桓彝因功封万宁县男爵。丹阳尹温峤上言说：“宣城地形险要，又常常经历变乱，臣觉得应当找一位既有名望又有实才的人到那里任职。臣私下以为桓彝可以胜任。”晋明帝手诏说：“刚才得到温太真的表章，有这样的建议。如今大事新定，朝廷急须人才。没有君子，能有国家吗！方今外务相对没那么重要，朕想暂停这一任命。”言外之意是想让桓彝担任更重要的内职。桓彝上疏深深谦让，说内外的大任并非自己所能胜任的，但因为祖坟在宣城郡，所以还是想到那里去。朝廷于是补桓彝为宣城内史。桓彝在任上有良好的政绩，为百姓所缅怀。
言归正传。当下桓彝进驻芜湖，派将军朱绰去讨伐并打败苏峻的部将。桓彝不久又兵出石硊。徐州刺史郗鉴打算率领部众勤王，但朝廷下诏，以北寇为患为理由而不许。
咸和三年即公元328年春正月，温峤入救建康，驻军在寻阳，派督护王愆期、西阳太守邓岳、鄱阳内史纪瞻等人率领舟师勤王。韩晃在慈湖袭击司马流；司马流一贯懦弱胆怯，临战时，吃饭都不知口在哪里，结果兵败而死。韩晃便长驱径直来到宣城。桓彝因为宣城没有坚固的城墙可守，只好退据广德，韩晃在周围诸县大肆掠夺之后退去。
一月底，苏峻率领祖涣和许柳等部众二万人，自横江渡过长江，登上牛渚，驻军在陵口。朝廷派兵抵御，但屡战屡败。二月初，苏峻抵达蒋陵覆舟山。陶回跟庾亮说：“苏峻知道石头有重兵卫戍，不敢直接下来，必然会率领步骑从小丹杨南道过来。明公应当在那里伏兵袭击他们，这样就可一战打败他们。”庾亮不听。苏峻果然从小丹杨过来，在那里迷失了方向，夜行时和部分队伍失去了联系。庾亮听说了，后悔莫及。
朝廷士大夫因为京邑危急，纷纷送家人到东边去避难，只有左卫将军刘超反而将妻儿家眷迁入宫内居住。
朝廷下诏任命卞壸负责大桁东的所有军事，与侍中钟雅率领郭默和赵胤等部队与苏峻在西陵大战。结果卞壸等人大败，死伤数以千计。六天后，苏峻进攻青溪栅，卞壸率领诸军抗击，但不能禁止苏峻的攻势。苏峻趁风纵火，把朝廷的台省以及各个部门的寺署一把火烧了个荡尽。卞壸背上的痈刚好不久，伤口尚未愈合，却仍然拼死力战，率领散兵以及左右数百官吏，攻打苏峻的麾下，苦战而死，时年四十八。卞壸的两个儿子卞眕和卞盱也跟随父亲之后，赴敌而死。他们的母亲抚摸着三人的尸身哭道：“父为忠臣，子为孝子，我还有什么可遗恨的！”
丹杨尹羊曼带兵守在云龙门，与黄门侍郎周导和庐江太守陶瞻一道战死。庾亮率领众将在宣阳门内列阵，阵势还未及成列，士兵们都弃甲逃走。庾亮与弟弟庾怿、庾条、庾翼以及郭默、赵胤也都只好逃奔到寻阳。临走前，庾亮看着钟雅说：“我把后事委托给先生了。”钟雅说：“栋梁崩塌，是谁的过错！”庾亮说：“今日的事，不要再说了。先生应当期待着光复的日子。”钟雅说：“想来足下真不愧是荀林父（荀林父率晋师与楚进行邲之战时鼓励士兵退却逃亡）。”庾亮乘上小船逃跑，乱兵互相抢掠。庾亮开弓左右射击敌兵，不小心误中了舵工，舵工应弦而倒。船上逃难的人无不大惊失色，都想逃散。只有庾亮巍然不动，不慌不忙地自嘲道：“这等身手怎么能制服得了贼人！”大家看到他如此镇定自如，这才安下心来。
苏峻大军进了京城，司徒王导跟侍中褚翜说道：“皇上至尊应当御临正殿，使君可以让他赶快出来。”褚翜马上进入上閤，亲自抱着年幼的晋成帝登上太极前殿。王导以及光禄大夫陆晔和荀崧、尚书张闿共同登上御床，拥卫着晋成帝。王导任命刘超为右卫将军，让他与钟雅和褚翜侍立在晋成帝的左右，同时让太常孔愉身穿朝服守护宗庙。有人跟钟雅说：“见可而进，知难而退，这是自古以来的道理。使君性格明亮直率，必然不会被贼寇仇人宽容。现在为何不趁机跑走，却反而坐以待毙？”钟雅说：“国乱不能匡正，君危不能救济，人人都这样逃跑以求自免，还算什么臣子！我害怕像（晋灵公时的）董狐那样的史官正带着竹简记载这些事情来了。”
当时百官奔散，宫殿和各个部省都一片萧然。苏峻的士兵进宫后，叱喝着命令褚翜下殿。褚翜正立不动，呵斥他们道：“苏冠军来觐见至尊皇上，你们军人岂能侵逼！”于是苏峻的士兵都不敢上殿，只好闯入后宫，开始掠夺宫人以及太后的左右侍人。苏峻的士兵还驱赶奴役百官，光禄勋王彬等人都被他们捶挞，还命令他们负重登上蒋山。苏峻的士兵还性侵士大夫的女眷，剥光了她们的衣服，弄得这些女子只能用坏席子或苦苫草来掩蔽身子，没有苦苫草的人则只好坐在地上用沙土盖着身子。男女老少哀号之声，震动宫廷内外。
当初，姑孰陷落时，尚书左丞孔坦跟周围的人说：“我看苏峻的势头，他早晚必定会攻破京城。你们要不是战士，就不要穿戎服。”比及京城陷落，穿戎服的人多数被杀死，而穿白衣的则没事。
当时朝廷有布二十万匹，金银五千斤，钱亿万，绢绸数万匹，其他物品也不计其数，结果都被苏峻的军队抢走或耗费掉了。太官只有烧煮剩下的几石大米来供应御膳。
二月上旬，苏峻称诏大赦，只有庾亮兄弟不在原宥的行列。苏峻因为王导很有德望，便让他以原来的官位居于自己之上。苏峻然后让朝廷任命祖约为侍中、太尉、尚书令；苏峻自己为骠骑将军、负责尚书事务；许柳为丹杨尹，马雄为左卫将军，祖涣为骁骑将军。弋阳王司马羕谒见苏峻，极力称述苏峻的功劳，苏峻便再次任命司马羕为西阳王、太宰、负责尚书事务。
苏峻接着派兵攻打吴国内史庾冰，庾冰不能抵御，丢弃了吴郡逃奔到会稽。到浙江时，苏峻到处悬赏捉拿他，情形危急。吴铃下卒将庾冰藏在一只船里，用芦苇编成的席子覆盖着船身，然后呤啸划桨，溯流而去。每逢巡逻，船夫们便用杖叩着船身唱道：“何处觅庾冰，庾冰正在此。”巡逻的人都以为他们酒醉，便不再怀疑，庾冰仅仅因此得免。苏峻接着任命侍中蔡谟为吴国内史。
温峤听说建康失守，号啕痛哭。侍候他的手下，也都和他悲哭相对。庾亮抵达寻阳后，宣读庾太后的诏书，任命温峤为骠骑将军、开府仪同三司，又加任徐州刺史郗鉴为司空。温峤说：“今日应以灭贼为当务之急。我尚未有功而先拜官，这样将用什么以示天下！”便不肯受封。温峤素来敬重庾亮，庾亮虽然奔走败亡，温峤却愈发推崇他，还分兵给庾亮。
三月初，庾太后因为忧虑过度而去世。苏峻大军往南驻军在湖上。四月底，朝廷将明穆庾皇后安葬在武平陵。
同时，后赵将领石堪进攻宛城，东晋南阳太守王国投降。南阳都尉董幼也叛变，率领襄阳的部众投降了石堪。石堪于是进攻驻扎在淮上的祖约军队。祖约部将陈光起兵攻打祖约，祖约身边的手下阎秃，长得很像祖约，陈光以为他是祖约而把他拿下，结果祖约本人跳墙逃走而获免。陈光接着投奔后赵。
庾亮和温峤准备起兵讨伐苏峻，但因为道路断绝，得不到建康的消息。适逢南阳人范汪来到寻阳，说：“苏峻政令不壹，贪暴纵横，灭亡之兆已经明显。苏峻虽强但也容易转弱，朝廷有倒悬之急，明公应该及时进讨。”温峤觉得非常有理，庾亮便聘请范汪为参护军事。范汪字玄平，少年时孤苦贫穷，六岁时过江，依靠外家新野的庾氏。荆州刺史王澄见到他感到惊奇，说：“让范族兴旺起来的人，必定是这孩子。”范汪十三时丧母，居丧时尽到礼数，亲戚和邻居无不哀怜他。比及年长，范汪非常好学。外家的庾氏家贫，也无法资助他，范汪便在菜园中结个草庐，穿着布衣，吃着蔬菜，烧木柴点灯写书，写完之后，诵读多遍，最终变得博学多通，善于谈论名理。
庾亮和温峤互相推为盟主，温峤堂弟温充说：“陶征西位重兵强，我们应当共同推他为盟主。”温峤于是派遣督护王愆期前往荆州，邀请陶侃与他们同赴国难。陶侃还因为晋明帝去世时没有被庾亮任命为顾命大臣而怀恨，便答复说：“我不过是效命疆场的外将，不敢越局。”温峤屡次为之劝说，陶侃不能回心转意。温峤便顺着陶侃的意思，派使者跟他说：“仁公便暂且守卫在自己的地盘，我将率军先下。”使者已经离去二日，平南参军荥阳人毛宝从其他使命上回来，听说了这事，急忙劝说温峤道：“凡是举行大事的人，都应当与天下人一道。出师胜利，贵在人和，而不应该存异。即使未必如此，也不应当让外人觉察出来，更何况自行表露内部不和！明公应当马上追回信使，改写书信，强调一定必须同时进兵。如果追赶前信已经来不及了，则应当再另派使者。”温峤幡然大悟，即刻把使者追回，改写了书信，更表示一番诚意。陶侃果然允诺，派遣督护龚登带兵去见温峤。温峤因此得到七千兵马，于是列上尚书，遍陈祖约和苏峻的罪状，送檄文给各个藩镇，然后洒泪登舟，出发勤王。檄文这样写道：
“贼臣祖约和苏峻同恶相济，共生邪心。如今上天夺其魂魄，死期将至。他们谴负天地，自绝人伦。贼寇不可纵容，现宜增加军队进行讨伐扑灭，大军马上进驻湓口。即日护军庾亮到来，宣读了太后诏令：‘寇逼宫城，王旅挠败，出告籓臣，谋宁社稷。’后将军郭默、冠军将军赵胤、奋宗将军袭保与温峤督护王愆期、西阳太守邓岳、鄱阳内史纪瞻，率其所领，相继而至。逆贼放肆行凶，陵辱践踏宗庙，火烧宫殿行省，流矢射到太极殿；东西御宫遭到威逼，宰辅丞相陷于困顿。贼寇还残虐朝士，劫辱子女。民众悲惶，精魂飞散。温峤我虽然暗弱不武，不能徇难，哀恨自咎，五情摧陨，愧负先帝托孤的重任。我义在毕力，死而后已。如今我亲率所统，身先士卒，催进诸军，一时电击。西阳太守邓岳、寻阳太守褚诞等连旗相继，宣城内史桓彝已率所属驻扎在滨江的险要地带，江夏相周抚也一心求征，大军已经上路。
“昔日包申胥不过是楚国一个微臣，却能用他的至诚，感动诸侯。蔺相如不过赵邦的一个陪隶，却能亲身感受君主的耻辱，按剑秦庭。皇汉末年，董卓作乱，劫迁献帝，虐害忠良，兰东州郡相率同盟。广陵功曹臧洪，不过郡里一个小吏而已，却能登坛臿血，涕泪横流，慷慨的气节，实在能够激励后人。何况我如今位居台鼎，占据方州，身列名邦，深受国恩！不期而会，不谋而同，不亦宜乎！
“二贼合起来的兵众，也不到五千，而且外畏胡寇，内有饥民。后将军郭默已经在战阵上俘杀了贼众千人。贼寇如今虽然残破了都邑，他们的宿卫士兵即时出散，不再为贼寇所用。况且祖约情性褊厄，忌妒不仁；苏峻小子，惟利是图，残酷骄横，猜忌心重，因此这二人只能权宜地凑合一块。如今江表兴起义兵，在前面抗击他们；北方的强胡外寇，则跟踪他们的后头。他们运漕隔绝，资食空悬，内外交困，势力如何得以持久！
“各位征镇大员，职在御侮。征西将军陶公，国家的耆老德望，忠肃义正，功勋卓著。各方镇州郡都应当心齐断金，同禀规略，以雪国耻。只要有利于社稷，应当将生死度外。温峤我虽然怯劣，空据一方，但依赖忠贤朝士的规劝，文武大臣的赞助，君子竭诚，小人尽力，高操之士被褐而从戎，负薪之徒匍匐而赴命，率领自己私人的奴仆，给他们私人的棍杖。这些人士的至诚，竹帛不足以记载，岂只是温峤我的无德可以致成的？士禀义风，人感皇泽。况且护军庾公，是皇上的元舅，德高望重，率领郭默、赵胤、龚登三将，与温峤我共同努力，使我得有资本和凭籍，令我且悲且庆，就好像朝廷依然健在一般。现谨请各位明确率领所统帅的部众，不要耽误军机。赏募的信用，就像日月一样明了。有能斩杀祖约和苏峻的，封五等侯，赏布一万匹。俗话说，忠诚是高贵的品德，要不要成仁取义取决于自己。万里一个契约，大义不在言语之上。”
陶侃又将龚登追回。温峤给陶侃写信道：“军队有进无退，可增不可减。近日我已经移檄远近，明确告诉各个郡县，刻期在后月半大举。各郡的军队都已经上路了，只须等到仁公的军队抵达，便可以齐头并进。仁公如今召回军队，让远近的队伍产生疑惑，成败的原由，将在于此。我才轻任重，实在凭借的是仁公的笃爱，远远地接受仁公的成规。至于率先冲锋陷阵，我不敢辞让。我与仁公，犹如首尾相卫，唇齿相依一般。我实在担心那些不明道理的人，会以为仁公在讨贼上迟缓不力，这一名声很难追悔。我与仁公并受地方大员的重任，安危休戚，理应与共。况且自国家有难以来，我与仁公互相照顾，绸缪往来，情深义重。即使我个人一旦有急，也望仁公尽数率领部众前来相救，更何况社稷的危难！今日的忧患，岂止是我个人的一州？全朝文武莫不翘首企盼。如果我的江州失守，祖约和苏峻将会安置他们的官长在这里。这样一来，荆楚西逼强胡，东接逆贼，又因乱造成了饥馑，只怕将来的危难，要比今天的江州还要严重。仁公进当为大晋的忠臣，可以建立齐桓公和晋文公那样的功勋；退当以慈父的情怀，洗雪爱子的惨痛。如今祖约和苏峻凶逆无道，痛感天地，人心一致，无不切齿怀恨。如今对他们的进讨，就好像以石击卵。仁公果真召兵回去，那将功败垂成。但愿仁公深察！”
王愆期也劝陶侃道：“苏峻犹如豺狼，一旦让他得志，四海虽广，仁公岂有容足之地！”陶侃这才深切感悟，于是即刻亲自穿上戎服，率军登舟出发。儿子陶瞻的丧事他也不去，昼夜兼程向京都挺进。
郗鉴在广陵，城孤粮少，军民都缺乏固守的把握。比及朝廷诏书来到，郗鉴流着眼泪奉诏，设坛场，杀白马，大誓三军道：“贼臣祖约和苏峻不恭天命，不畏王法，凶戾肆逆，干预国家纲纪，无视仁义礼智信，侮弄皇家神器，制约威胁甚至幽禁主上，拔本塞原，残害忠良，祸害黎民，致使天地神祇无所归依。因此普天下民众泣血怨恨，无不愿意奉诏伐罪，以除元恶。昔日戎狄灭周，齐桓公纠结同盟；董卓陵汉，诸侯一致讨伐。大义保存君主亲人，古今都是一个道理。如今主上幽危，百姓倒悬，忠臣义士志存报国。凡是我的同盟，在誓盟之后，都应当努力一心，以救社稷。如果二寇不枭，我等义无偷安。有背此盟，神明共残！”
郗鉴登坛慷慨，三军将士无不争着为他效命。郗鉴又派遣将军夏侯长等人暗中去见温峤道：“听说贼寇打算劫持天子东入会稽。明公应当先立营垒，屯据要害关隘，既防备他们越逸，又可以切断贼寇的粮运，然后坚壁清野等待贼寇。这样一来，贼寇攻城不拔，田野里又掠夺不到粮食，东边的道路一旦被阻断，粮运自然就绝了，他们必定会自我溃败。”温峤觉得非常有理。
要想知道陶侃他们讨伐苏峻的战事进行的情况，请看下篇文章。
