公元311年正月，石勒消灭了雍州流寇侯脱和严嶷，兼并了他们的部队之后，军势愈益强盛。石勒后来又在襄城杀了另一个更强大的流寇王如的弟弟王璃，再次进驻汉水以西地带，大有雄据长江汉水流域的大志。谋臣张宾认为这不是好策略，便劝石勒北还。石勒军势当时正非常强盛，便不肯听从。但为了安慰张宾，石勒便任命他为参军都尉，位置仅次于司马，总管居中的事务。镇守建康（南京）的晋琅邪王司马睿担心石勒南下入侵，便派亲信大臣王导率兵前往讨伐石勒。石勒军粮不接，又遇到瘟疫，士兵死于瘟疫的有一半左右。石勒后悔不听张宾的话，便召张宾入帐问计，张宾说：“将军今天虽然遭到饥荒瘟疫，然而精卒还在。为何不烧掉辎重，然后让将士带上干粮，卷起甲胄，利用轻骑快兵，强渡沔水，进逼江夏！”石勒觉得有理，于是发动精兵渡过沔水，不久便攻克江夏，晋江夏太守杨岠弃郡逃走。二月，石勒继而北上入侵新蔡，在南顿（今河南项城）杀了晋新蔡王司马确。于是周围郡县，听到石勒大名便闻风丧胆。晋朗陵公何袭、上党太守羊综、广平太守邵肇等人都先后率众投降石勒。石勒进而攻陷许昌，杀了晋平东将军王康。
这时晋名将苟晞和权臣东海王司马越矛盾很深。苟晞带兵进入洛阳，把司马越的亲信大臣刘曾和程延都杀了。司马越当时领兵和朝廷内阁在项城，听到这事，忧愤成疾，又无可奈何，结果重病不起，便把后事交待给太尉王衍。三月，司马越在项城去世，大臣们秘不发丧，共同推举王衍为元帅。王衍不敢当，一定要让给前楚王司马玮的儿子襄阳王司马范，司马范也不接受，建议道：“太傅遗言要归葬东海国。元帅应该奉丧东归，沿途也可以招募部队，好重振师旅，抗御石勒逆贼。”于是王衍等人便带着司马越的棺柩前往山东的东海国。
石勒听到消息后，马上亲自率领轻骑追赶司马越的灵柩一行，终于在苦县的宁平城赶上。王衍派将军钱端抵御，但晋军早已是惊弓之鸟，并非石勒精骑的敌手，很快就被石勒打败，钱端也战死了。石勒纵容他的骑兵将晋军包围住，把他们当活靶一样射死，晋军将士十多万人互相践踏，尸体堆积如山，没一人得以幸免。当时朝廷内阁和多位封王都跟随着司马越的灵柩，所以全被石勒俘虏。
石勒请太尉王衍、襄阳王司马范、任城王司马济、武陵王司马澹、西河王司马喜、梁王司马禧、齐王司马超、吏部尚书刘望、廷尉诸葛铨、豫州刺史刘乔、太傅长史庾顗等大臣，坐在自己的帐幕下，问他们大晋惨败的缘故。王衍详细陈述祸败的原因，认为自己没有责任；而且还说自己少年时就不想当官，不想参与政事；又趁机劝石勒自称尊号，希望这样自己可以免于一死。石勒说：“先生少壮时就入朝成为大官，名盖四海，身居重任，怎么能声言自己从来就没有做官的情趣！破坏天下的人，不是先生还能是谁！”便命令左右侍从将王衍扶出。其他大臣也都怕死，大多数人都做了自我陈述，只有襄阳王司马范神色严肃，环顾周围后斥责道：“今天事情到了这步田地，还有什么可说的！”石勒对他感到十分惊异。
石勒跟部将孔苌说：“我纵横天下已经多年，但却从未见过这辈人物。爱卿觉得应该把他们留下吗？”孔苌说：“他们全是晋的王公贵族，终究不会被我们使用。”石勒说：“虽然如此，但对他们毕竟不可加以锋刃。”当夜，石勒派人招集各位封王以及王衍等重臣，让他们站在一堵颓墙之下，然后命令士卒把墙推倒，将他们全部压死。王衍临死前，环顾左右叹息道：“呜呼！吾曹虽不如古人，但如果以前不崇尚浮虚的东西，而是努力匡扶天下，或许也不至于有今日。”王衍死时年五十六岁。王衍长相俊秀，名望也很好，宁静致远，从不曾贪图私利。他堂弟王敦离开中原到江南后，常感叹道：“夷甫（王衍字）处于众人之中，有如珠玉在瓦石之间。”后人顾恺之作画赞美他，称颂王衍犹如“岩岩清峙，壁立千仞”。
石勒杀害了王衍等人后，进而剖开司马越的棺柩，把他的尸体给烧毁了，说道：“搞乱天下就是此人。我为天下人报仇，所以烧了他的骨头以祭告天地。”
司马越在洛阳的亲信何伦和李恽听说司马越的死讯，便带上司马越的王妃裴氏和世子司马毗出了洛阳，想加入灵柩一行。石勒在洧仓伏击他们，结果何伦等人溃败，司马毗和多位王公卿士都被杀害，死的人很多。
同年五月，刘聪派大将呼延晏率军二万七千伐晋。大军到河南后，和晋军前后交战十二次，无往不胜，晋兵战死三万多人。汉将刘曜和王弥带兵和呼延晏会合。石勒也率领精骑三万，从成皋关进入洛川和他们会合。
六月初四，晋尚书令荀藩和弟弟光禄大夫荀组出逃到轘辕。初五，王弥大军来到宣阳门。初六，刘曜来到西明门。六月十一，呼延晏和王弥一道攻克宣阳门，径自进入南宫，登上太极前殿，纵兵大掠，将宫女和珍宝全都一抢而空。晋怀帝从华林园门逃出，想逃到长安去，但被汉兵追上捉住后幽禁在端门。
同时，刘曜从西明门进驻武库。六月十二，刘曜杀了晋太子司马诠、吴王司马晏、竟陵王司马楙、右仆射曹馥、尚书闾丘冲、河南尹刘默等人，大开杀戒，屠杀了洛阳城里的士大夫和平民多达三万馀人。刘曜又发掘各个皇陵，焚毁了宫殿宗庙以及官府。
刘曜在占领了西晋的皇宫后，发现晋惠帝的皇后羊献容之既漂亮又妩媚，羊后也善于弄姿作态，所以很得刘曜的欢心。刘曜在羊后的宫里做客时，羊后献媚地问道：“我听说殿下曾隐迹在管涔山，整天和琴棋书画打交道。一天夜里闲居时，听说有两个童子进来跪拜殿下并献上宝剑一口。据说这剑十分神奇。殿下可否让奴身一睹为快？”刘曜喜不自胜，便取来这一宝剑让羊后观赏。这剑长二尺，光泽非常，剑鞘是赤玉做的，背面刻有铭文说：“神剑御，除众毒。”羊后惊叹不已，便跪下说道：“殿下真是神人。奴身如果能为殿下执帚洗爵，平生的愿望那就满足了！”刘曜急忙扶她起来，因而非常宠爱她。没几天，刘曜便纳羊后为始安王妃，同时把晋怀帝以及六枚玉玺都带回汉都平阳。
当初，刘曜因为王弥不等他就先进了洛阳而怀恨在心。王弥不知道，在见到刘曜后，游说他道：“洛阳是天下的中心，不但有山有水，而且四面还有要塞。城池和宫室虽有所残破，却不难修复。一旦得归原样，其宏伟壮丽实非平阳可比。殿下应当向主上进言，从平阳迁都于此。”刘曜二十岁弱冠时曾到洛阳游玩，却犯了死罪，理应当诛。后来逃亡躲藏到朝鲜，遇到大赦后才回来。而洛阳士族都不把他当回事，全都轻视他而看重刘聪。刘曜因此不喜欢洛阳，便借口说：“如今天下未定，洛阳四面受敌，守卫都很困难，又怎么可以为都？”因而不用王弥的计策，一把火把洛阳全烧光了。王弥出去后骂道：“屠各（即匈奴）小子，哪里有帝王意思？”于是和刘曜有了矛盾。王弥接着带兵东驻项关。石勒也带上他的部队兵出轘辕，进驻许昌。
八月，刘聪的太子刘粲统领西晋降将赵染和安西将军刘雅攻克了晋西京长安，并在九月杀了守卫长安的晋南阳王司马模及其儿子范阳王司马黎。刘聪接着任命刘曜为车骑大将军兼雍州牧，改封中山王，出镇长安。
同时，石勒等人在离开洛阳之后，转而进寇谷阳（今安徽淮北），杀了晋守将王兹，接着又攻打阳夏的晋将王赞。王赞闭城坚守，但他手下将领知道大势已去，便绑了王赞投降石勒。石勒因为王赞的忠勇而放了他，让他成为自己的参军。
石勒在打败王赞后，便进军蒙城。当时晋名将苟晞利用豫章王司马端在蒙城建立临时内阁。苟晞骄奢苛刻而且非常残暴，前辽西太守阎亨多次劝谏苟晞，苟晞烦了居然把他杀了。谋臣明预有病在身，自己扶着车驾来劝谏。苟晞很愤怒地责骂他道：“我杀阎亨关你屁事，你竟敢坐车带病前来骂我！”明预说：“明公以礼待我，所以我也以礼尽到自己的职责。今天明公气我，又怎比得上今后远近的人们都气明公！夏桀身为天子，还因为骄暴而败亡，何况人臣！愿明公暂且安息雷霆之怒，认真思考我的忠言。”苟晞听不进去。于是众心离怨，再加上疾病瘟疫、饥荒饿馑，苟晞的势力便日益衰败。到石勒大军来到时，苟晞早已众叛亲离，将士都不再听他的命令了。石勒攻城才三天，蒙城就陷落了。石勒活捉了苟晞和司马端。石勒因为苟晞是晋的名将，便打算收他己用，但苟晞拒绝了。石勒用木枷锁住苟晞的颈项，强迫他成为自己的左司马。
汉皇帝刘聪听说石勒已连克阳夏和蒙城，还生擒了苟晞，喜出望外，便派遣使者拜石勒为幽州牧。
要想知道刘曜和石勒的分别进展，请看下篇文章。
