公元306年下半年，晋惠帝食物中毒死后，他弟弟司马炽即位，成为晋怀帝。这时，八王之乱已经进入尾声，七王都死了，只剩下东海王司马越在朝廷独揽大权。晋怀帝任命中书监温羡为司徒；尚书左仆射王衍为司空，并将晋惠帝埋葬在太阳陵。
司马越任命的并州刺史刘琨抵达上党，原在并州的司马越弟弟司马腾则由井陉东下。那时并州饥荒严重，并多次被胡寇侵扰，郡县都不能自保。州里的将领田甄田兰兄弟、任祉、祁济、李惲、薄盛等人带了流民一万多人，跟随司马腾到冀州讨饭，因此这支乞丐队伍被称作"乞活"军。这样一来，并州剩下的户籍不到二万，盗贼横行，道路断塞。刘琨在上党招募士兵，得到五百人，便边打边往并州前进。到州府晋阳时，府第早已焚毁，城里城外一片萧条。刘琨抚慰百姓，颁布法令，情况开始好转，流民也慢慢开始回来。
第二年即公元307年春正月，晋怀帝改元为永嘉。司马越姑姑的儿子吏部郎周穆和司马越妹夫御史中丞诸葛玫劝说司马越道：“主上之所以成为太弟，都是张方的主意。清河王本来是太子，明公应该立他为帝。”司马越不同意。二人一再提起这事，司马越一怒之下把他俩都杀了。
三月，晋怀帝下诏追复杨太后的尊号，并把她改葬进入皇陵；又立清河王司马覃的弟弟豫章王司马诠为皇太子。晋怀帝亲览大政，留心平凡的事情，和晋惠帝大不一样。司马越因为不能专权，十分不高兴，便一再请求出朝回归藩国。晋怀帝挽留不住，终于答应了，司马越便离开洛阳出镇许昌。
司马越又让高密王司马略为征南大将军，负责荆州军事，镇守襄阳；让南阳王司马模为征西大将军，负责秦、雍、梁、益四州军事，镇守长安；改司马腾为新蔡王，负责司、冀二州军事，仍然镇守邺都。这三王都是司马越的弟弟。
司马颖部将公师藩战死后，他的部将汲桑率领本部逃到苑中，任命手下少数民族羯人石勒为伏夜牙门，让他带领一班牧马人去劫掠各个郡县的囚犯，又招集山泽里的亡命之徒。这些人都来归附石勒，于是石勒队伍开始壮大。汲桑因此自称大将军，声言要诛杀司马越和司马腾兄弟，为成都王司马颖报仇。汲桑以石勒为前驱，所向披靡，便任命石勒为扫虏将军，封忠明亭侯，进攻邺城。那时邺城里面府库空虚，而司马腾的开销又大。司马腾性格吝啬，对手下没有恩惠，到事情急了，才赏赐将士米各数升，布各丈余，因此将士不肯为他效力。等到汲桑逼近时，司马腾命令部将冯嵩带兵阻拦他们（当时冯嵩因为捕杀司马颖有功，已升迁为魏郡太守）。结果冯嵩大败，只带领了少数亲兵落荒而逃。于是汲桑长驱直入。邺城守军都不愿为司马腾卖命，汲桑便轻易攻破了城门，进入邺都。司马腾自己也被汲桑部将李丰的队伍所杀。
汲桑找出司马颖的棺柩，载在一辆车中，每次有重要事情必定要在他棺柩前面启奏后才行动。汲桑与石勒等人然后放火烧了邺宫，大火十多天都不灭。他们屠杀了士民一万多人，大肆掠夺以后，出城而去。汲桑乘胜率军在延津渡过黄河，往南攻击兖州。司马越大为恐惧，便任命侍中王赞为将军，持诏书前往兖州授命苟晞为将，代替司马腾负责司冀二州的军事，并叫王赞辅助苟晞讨伐汲桑。
汲桑和石勒转而到乐陵（山东）去攻打幽州刺史石鲜，石鲜战败而死。乞活军将领田禋率兵五万救石鲜，石勒又击败田禋，于是和苟晞等人在平原和阳平（山东西北部）之间僵持，几个月里大小三十多战，互有胜负。秋七月，司马越率军进驻官渡（今河南中牟东北）声援苟晞。
朝廷又任命琅邪王司马睿为安东将军，负责扬州江南的军事，镇守建业，为苟晞征集军粮。八月，苟晞招集所有部将到他的大营，说：“消灭汲桑的时机到了。汲桑之所以能抵御我大军这么多日子，一是因为他的兵士勇猛并不怕死，二是因为兖州没有坚壁清野，这些贼兵得以掠夺田野里的谷物作为军粮。以前我军屡攻不下，都是因为贼兵得到秋粮，吃饱了有力作战。现在他们的秋粮已经吃光了，而我们有琅邪王用江南丰盛的稻谷不断补充我们，所以优劣之势已很明显。诸位将军只管奋勇进击，很快就可以拿下汲桑了！”各位将领都钦佩地说：“州牧明鉴，我们实在不如！”便都回各自军营准备去了。
那时，汲桑军队已缺乏粮食好几天了，而且连日苦战，已经没什么斗志。汲桑派石勒等将领北上劫粮还没回来。待到苟晞大举出击时，汲桑已兵衰军竭，只好退到东武阳。苟晞乘胜追击，把汲桑打得落花流水。幸而石勒部队取得粮草回来，奋力保护汲桑退守清渊（今河北馆陶）。然而石勒所取的粮草都散失殆尽。
汲桑兵分十部，各自在清渊修建军垒。苟晞大军追击汲桑，攻破其中八垒，打死敌军一万多人。汲桑和石勒收集残部，想往西投奔汉王刘渊。冀州刺史丁绍率兵在赤桥截击汲桑。石勒等将领虽然勇猛，然而毕竟众寡悬殊，便又被丁绍打败。汲桑逃到马牧，石勒逃到乐平。苟晞和丁绍飞驰捷报给在官渡的司马越。司马越喜出望外，便回到许昌，让朝廷提升苟晞为抚军将军、负责青州和兖州军事；提升丁绍为宁北将军，负责冀州军事。
苟晞屡次击败强寇，因而威名越来越盛。苟晞又善于治军，用法严峻。他的伯母跟着他，苟晞奉养得很周到。伯母的儿子请求为将，苟晞不答应，说道：“我不违反王法而徇私，这样将来不会后悔！”他伯母再三请求，苟晞只好让她儿子当个督护。后来伯母儿子犯法，苟晞用杖节把他杀了，他伯母叩头苦苦请求饶命，苟晞不肯。他伯母儿子被杀后，苟晞全身穿素面对他的尸体哭道：“杀你的是兖州刺史；哭弟的是我苟道将（苟晞字道将）。”以显示公私分明。
十一月，朝廷任命尚书右仆射和郁为征北将军，镇守邺都。司徒王衍劝说司马越道：“现在朝廷危乱，十分依赖地方大员，明公应当选择文武兼备的人出任才行。”司马越便任命王衍的弟弟王澄为荆州都督，王衍的堂弟王敦为青州刺史。王衍跟他们俩说：“荆州有长江汉江的天险，青州有靠海的地利。你们二人在外而我在内，这样足以成为所谓的狡兔三窟。”王澄到荆州后，用郭舒作他的别驾，把政事都交给他。王澄自己日夜纵酒，不理政务。荆州一带虽然盗寇横行，兵戎不断，王澄也不当作一回事。郭舒经常劝谏，认为他应该爱民养兵，保全州境，王澄不听。
十二月，原司马腾部将田甄、田兰、薄盛等人率领所谓乞活兵，即前往冀州乞讨的并州饥民，在乐陵攻击汲桑，要为司马腾报仇。汲桑兵少，又不肯舍弃司马颖的棺柩逃命，便被田甄等乞活兵所杀。乞活兵众将司马颖棺柩抛弃在一口古井里。后来司马颖原来的臣属把它从古井中取出，重新收葬了。
朝廷任命前太傅刘实为太尉，刘实因为年老再三推辞，晋怀帝不答应。晋怀帝又任命高光为尚书令。大臣吕雍和陈颜等阴谋改立司马覃为太子。事情败露后，司马越伪造诏书，将司马覃关进了金墉城。当初，司马越和苟晞关系密切，两人曾经牵手共同登堂结为异姓兄弟。司马越亲信潘滔劝说司马越道：“兖州是要害地方，曹操当年就凭它创业。苟晞有大志，不是单纯的臣子，如果让他久居兖州，我担心他最终将成为明公的心腹之患。如果把他迁到青州，加重他的名号，苟晞必然高兴。明公应当自领兖州牧，经纬诸夏，藩卫本朝，这样做正是所谓防患于未然。”司马越觉得有理，于是自己便担任丞相兼兖州牧，负责兖、豫、司、冀、幽、并六州军事，任命苟晞为征东大将军、开府仪同三司，负责青州军事兼刺史，封东平郡公。
朝廷使者抵达廪丘，宣诏让苟晞调去出镇青州。苟晞领诏，笑着对属下官吏说：“司马越以为兖州是创业的地方，便想自己占有。殊不知这是很重要的地方，没有大将才干的人是驾驭不住的。”便因此和司马越开始有矛盾。
苟晞到青州后，以威严苛刻的刑法立威，天天杀人，州里人把他称作“屠伯”。
苟晞离开兖州后，流民逼迫顿丘太守魏植为头，聚众五六万人，大肆掠夺兖州百姓。司马越让潘滔为将，派他讨伐魏植，结果潘滔兵败。司马越无奈，只好再让苟晞代领兖州牧去讨伐魏植。苟晞出兵进驻无盐（今山东东平），让弟弟苟纯代行青州牧。苟纯嗜好杀人，居然比苟晞还要厉害。百姓称“小苟酷于大苟”。苟晞讨伐魏植，把他打败了。
再说当时山东人王弥和堂弟王桑等人在广长山落草为寇，不久又聚众上万人，入侵青徐二州，自称征东大将军，攻打并杀害了西晋不少官吏。司马越任命公车县令东莱人鞠羡为东莱太守，去讨伐王弥。王弥和鞠羡在东莱城西交战，鞠羡的士兵多数是东莱人，历来知道本地人王弥的勇猛，便不战而溃。王弥飞马追击，把鞠羡杀了。
苟纯暂时代领青州，镇守在临淄，便率军南下，和王弥在平邑相遇。苟纯军队是苟晞亲自训练出来的，军纪严密。王弥虽然勇猛，但兵众却不过是流民而已。于是王弥终于不敌苟纯的劲旅，败退回东莱。
阳平人刘灵小时候很贫贱，但力气非常大，能够制服奔牛，跑起来像奔马那么快。周围的人们虽然惊异他的武功，却没人能为他举荐。刘灵抚着胸膛叹息道：“天哪，为何不乱呢！”待到公师藩起兵时，刘灵便趁乱自称将军，寇掠赵魏一带。司马越派部将王赞讨伐他。刘灵和王赞在邯郸大战。刘灵虽勇，但他的士兵也和王弥的一样，多数是流民，所以也被王赞打败，退而困守内黄（河南北部）。刘灵情急之下，听说王弥在东莱，便派人向他求援。王弥跟刘灵使者说：“我现在也困守在这一孤城里，爱莫能助。今日的形势，看来非投奔汉王刘渊不可。我与汉王是深交，可以为你的主人写一封推荐信，请汉王出兵相救。”便连夜写了两封书信，派使者去刘渊都城左国城，想投奔他。
刘渊得到王弥的信十分高兴，便下诏拜王弥为镇东大将军、青徐二州州牧、负责沿海军事，封东莱公；拜刘灵为平北将军。第二年即公元308年初，刘渊派遣儿子刘聪等十位大将往南占据太行，石勒等十位大将往东到赵魏一带，声援王弥与刘灵。不久，石勒入侵常山，被幽州刺史王浚打败。
第二年即公元308年二月，司马越派人谋杀了前太子司马覃。三月，司马越从许昌迁往鄄城。这时，王弥趁着苟纯率兵北上抵御刘渊的汉军的间隙，收集先前逃亡失散的士兵，因而军力大振。他又分别派各个部将去攻掠青、徐、兖、豫四州，所经过的地方无不攻陷郡县，杀害大多数西晋太守县令，队伍增加到几万人。苟晞挥军和他连续作战，不能取胜。王弥勇猛异常，苟晞部将对他都谈虎色变。夏四月，王弥率大军进入许昌。
司马越驻军在鄄城，听说许昌陷落，急忙派遣部将王斌率领甲士五千人去保卫京师洛阳。西晋凉州牧张轨听说王弥即将入侵京都，便派将军张斐、北宫纯、郭敷等人率精骑五千前去保卫京师。五月，王弥从轘辕进入洛阳，在伊水北岸和晋将陈午的军队相遇。陈午所率领的多数是乞活部队，都是敢死的乞丐。但王弥军队已经十分强大，所以仍然大败陈午，乞活士兵的尸体堆积了好几里。陈午败后，京师大为震动，皇宫城门白天也紧紧关闭。王弥到了洛阳，驻军在津阳门。
要想知道司马越能否保住京城洛阳，请看下篇文章。
