历史上善良皇帝不少，但开国的善良皇帝却不多见。不过司马炎从严格意义上说倒的确算不上开国皇帝。西晋王朝实际上是由司马懿，司马师，至司马昭奠定的。到司马昭时，曹魏王朝已经名存实亡，所以司马炎登基皇位只是顺理成章的事。但不论怎么说，司马炎确实是个十分善良的皇帝，在他执政期间，几乎没杀过人。晋书称他“宽惠仁厚，沈深有度量”。当公元265年底，魏元帝曹奂自知时候已到，请太保郑冲奉上禅让策书给司马炎时，司马炎的确也诚心谦让过。后来因为以丞相何曾，御史大夫王沈，卫军贾充为首的公卿大臣一再要求，司马炎才接受，从而登基成为西晋开国君王晋武帝。
司马炎不但善良，也有知错就改的大度。当年灭蜀大将邓艾受冤屈而被害死。当司马炎登基后不久，议郎（相当于顾问）段灼上疏为邓艾鸣冤，请司马炎让邓艾遗体归葬旧墓，归还他的田宅，并以邓艾灭蜀的功劳继封他的后代，使邓艾盖棺定论，得到谥名荣誉。司马炎虽然觉得段灼言之有理，但却不能照做。不久后司马炎又问给事中（皇帝身边的谏议官）樊建，当年诸葛亮是怎样把蜀国治理得那么好，并叹息说：“我怎么就得不到像诸葛亮这样的能臣？”樊建磕头回答说：“陛下明知邓艾受冤屈而不能为他平反，这样即使得到诸葛亮，又和当年冯唐跟汉文帝讲的话有什么两样！”原来汉文帝也曾跟冯唐讲过类似的话，说他为什么就得不到像李牧和廉颇这样的良将来守卫边防，而冯唐答说即使有汉文帝也不懂得任用。于是司马炎笑道：“先生的话让我知道该怎么做了。”便当下启用邓艾的孙子邓朗为郎中。
司马炎也体恤将士，尽量不为扩张而使用武力，造成不必要的流血。所以在司马昭兼并蜀汉后多年，东吴的孙皓依然存在。前方大将羊祜和许多大臣经常请求出兵消灭东吴而统一中国，司马炎却迟迟不肯大举用兵。当然其中一方面是因为北方的少数民族民风剽悍，经常入寇中原，但司马炎的善良也是重要因素。然而孙皓实在是太无道了，做的坏事罄竹难书。譬如，他设置黄门郎十人作为专门检查大臣过失的官员。每次宴会之后，这些人便上奏其他臣子的毛病，大小都不放过。大的马上付之刑罚，或关或杀；小的则记录在案，将来秋后算账。孙皓并对“罪犯”施行各种酷刑，有时活剥人的面皮，有时凿穿人的眼晴，真是骇人听闻。因此吴国上下离心，没有人肯为孙皓尽力。在这种情况下，司马炎的益州刺史（相当于四川省长兼军区司令）王濬上奏章道：“孙皓荒淫无道，应该尽速征伐。假若一旦孙皓死了，代之以一位贤明的君主，那么东吴将会是一个强敌。另外，我已经建造战船七年等候征讨，而这些船只已开始朽败了。并且我已年逾七十，随时可能死去。这三者只要一样不顺，消灭东吴的机会就会一瞬即逝。我诚心希愿陛下千万不要错过这一良机。”司马炎这才终于下了决心。公元279年冬十一月，司马炎大举伐吴，兵出六路，共二十馀万，水陆并进。因为孙皓的邪恶，平吴战争进行得非常顺利，晋书称“兵无血刃，扬越为墟”，仅仅四个多月，统一大业的战争便胜利结束了。
即使像孙皓这样恶贯满盈的人，司马炎也没有对之施加任何惩罚。孙皓投降后，司马炎封他为归命侯，一家族人都居住在西晋都城洛阳，和蜀后主刘禅一样，得以善终。其中还有个小趣事。司马炎胜利后举行了庆祝大会，有文武大臣和四方使者，学者以及太学生参加。会上引见了孙皓以及东吴归降大臣。司马炎对孙皓说：“我已经为先生安排这一座位等先生就座，有一段时间了。”孙皓说：“我在南方也为陛下安排了一样的座位。”司马炎的宠臣贾充嘲笑孙皓说：“听说先生在南方凿人的眼睛，剥人的面皮，请问这些都是什么样的刑罚？”孙皓回答说：“做人的臣下却弑杀自己的君主以及类似如此奸回不忠的小人，则受到这样的刑罚。”贾充当年曾为司马昭杀害魏帝曹髦，因此羞惭不已，默然无言以对。
不像许多动不动就杀害功臣的帝王，司马炎从不加害于功臣。王濬平吴凯旋归来回到京师时，有司（相当于今天的纪检委）上奏指责王濬在战争中曾违背朝廷的诏令擅自进军，有大不敬之罪，应该交付廷尉（司法部）问罪。司马炎决定对这一指责不予理睬。有司又上奏指责王濬在对东吴大赦之后还烧毁对方战船一百三十五艘，司马炎也不因此加罪于他。王濬是公认居功为首的平吴功臣，但因为得到的封赏不如一些其他功臣而愤愤不平。每次晋见司马炎，王濬总要陈述自己攻伐的功劳以及受到冤枉的事实，有时因为不胜愤慨而径自出宫，对皇帝不辞而别，颇有大不敬的嫌疑。但司马炎每次都容忍他而不计较。这些事好像无关紧要，但联想到当年同样是平蜀头号功臣邓艾冤死的下场，司马炎的宽容的确是令人信服的。
司马炎不但善良，也知人善任，而且不计出身。其中最著名的例子就是任用马隆。当时北边的少数民族经常入侵中原，劫掠汉人的妇女财产，因此边患不断。公元279年春，由著名的鲜卑酋长秃发树机能率领的胡人流寇再次入侵并攻陷了凉州（甘肃一带，州府在武威）。就在前一年六月，秃发树机能的流寇刚在武威与西晋凉州刺史杨欣的军队冲突，造成杨欣战死沙场。司马炎听说凉州失陷，在朝廷上叹息道：“不知谁能为我征讨这一胡虏？”马隆当时在朝廷供职，但职位很低。看到没人回答，马隆挺身而出，说道：“陛下如果敢于破格任用我，我可以平定鲜卑人的叛乱。”司马炎并未因为马隆的官阶低微不把他当回事，而是认真地问他：“你可以谈谈你的策略吗？”马隆说：“我打算招募勇士三千人，不问他们从何处来，是何出身，只要能打仗就行。然后我率领他们西征，完全有把握平定这些胡虏。”司马炎当下破格提拔马隆为讨虏护军以及武威太守。大臣们都反对，说：“朝廷已经屡见兵戎，现在实在不能再随便悬赏招募兵马。马隆不过小将一员，陛下不该相信他的一派胡言。”但司马炎并不因众人的异议而改变主意。于是马隆马上开始招募能张弓射箭的力士，当场竖立标杆让他们现场射杆献艺以备挑选。这样从清晨比试到中午，很快就选拔了三千五百人。马隆高兴地说：“这已经足够了。”于是请晋武帝下旨让马隆亲自前往武库挑选兵器。武库令看不起马隆，居然不给，跟马隆吵了起来，结果马隆一时怒起，出拳打伤了武库令。御史中丞（相当于中级委书记）便因此要弹劾马隆。马隆说：“我们很可能就死在战场，而武库令竟给我们一些曹魏时期遗留下来的腐朽兵器！他的如此作为，难道是陛下之所以派我出征的意思吗？”司马炎听了很生气，马上命令武库令让马隆任意挑取最好的兵器，并给他三年的军资，然后让他出兵西征。
马隆去后，好几个月没有音信，朝廷开始担忧。鉴于以前失败的经历，人们议论纷纷，都认为马隆已经战死。后来马隆使者半夜抵达京城，司马炎得悉后，高兴得抚掌欢笑。第二天上朝时，司马炎对群臣说道：“我假若听从诸位的话，早已经没了凉州。”于是下诏拜马隆为宣威将军。马隆也不辜负司马炎的期望，打了不少胜仗。到武威时，另一个鲜卑酋长带了一万多户部落归降马隆，于是晋军势力大振。同年十二月，马隆的军队与秃发树机能的流寇相会于武威北边五十里的地带。两军相逢，秃发树机能的兵众一点不是马隆精锐部队的对手，大败而溃散，他本人也死于乱军之中。于是凉州的叛乱便轻易地被马隆给扫平了，而马隆也成为晋初一代名将。
司马炎也非常宽宏大度。他曾经与右将国皇甫陶讨论时事，皇甫陶居然与司马炎争得面红耳赤。散骑常侍郑徽显然想讨好皇帝，上表请求降大不敬罪于皇甫陶。司马炎说：“像皇甫陶这样的忠谠之言，我唯恐听不到。今天郑徽擅越职守，而胡乱上奏，实在不是我的本意！”于是免去郑徽的官职。
司马炎颇有幽默感。有一次亲自前往南郊祭祀先皇，祭祀典礼结束后，司马炎有点感慨地问司隶校尉（京城监察官）刘毅：“我可以比较汉朝的哪位皇帝？”刘毅居然毫不留情地说：“只能与汉桓帝和汉灵帝相比。”这两位皇帝在汉朝历代皇帝中算是非常平庸的，于是司马炎说：“也不至于差到这种地步吧？”刘毅说：“汉桓帝和汉灵帝把卖官的钱归入官库，而陛下您却把卖官的钱归入私门。就这点而言，我看陛下还不如他们！”大部分其他君主听到这样的话都会勃然大怒，但司马炎则大笑道：“在汉桓帝和汉灵帝在位的时候，不可能听到这样坦率的言语，而今天我有这样的直臣，我当然要比这两位皇帝强得多。”
司马炎对自己的结发妻子杨皇后也非常恩爱。当初，司马炎因为杨氏儿子太子司马衷天生弱智，担心他以后不堪重任，所以经常私下探访皇后，想说服她同意更换太子。皇后说：“立太子从来都是以年长而不是以贤能为标准，这怎么能随便更动！”当时镇军大将军胡奋的女儿是司马炎的贵嫔，十分得宠。公元274年秋七月，杨皇后病重临死时，恐怕司马炎在她死后会册立胡贵嫔为皇后，导致太子地位不稳，就头枕着司马炎的腿上哭泣地请求说：“我叔父杨骏的女儿杨芷有德有貌，但愿陛下在我去世后能够纳她为皇后以主持六宫大事。”司马炎流着泪答应了。一位古代皇帝能够这样对待年老色衰的结发妻子，的确难能可贵。两年后司马炎果然兑现诺言，终于立杨芷为皇后。史书说杨芷美貌而有妇德。
然而司马炎的善良在很大意义上可能导致了后来的西晋八王之乱，以及接踵而来的五胡乱华，最终导致西晋政权很快就垮台。如果不是因为晋惠帝司马衷的弱智，八王之乱就可能不会发生。如果不是因为照顾结发妻子的要求，杨芷的父亲杨骏就未必大权独揽，而间接导致了八王之乱。
司马炎的善良也表现在对异族上头。当时很多少数民族部落酋长送孩子到洛阳当人质，其中最有名的就是匈奴左部大帅刘豹的儿子刘渊。刘渊不但文武双全，而且仪表堂堂，有帝王之相。司马炎的母弟齐王司马攸担心刘渊将来可能成大气候而威胁到朝廷，便劝司马炎除掉刘渊。当时司徒（古代最高官阶之一）王浑非常器重刘渊，便劝司马炎说：“我大晋正在用仁义宽怀来取信于少数民族，却怎么能因为一些虚无飘渺的担心而无端杀害人家送在这里做人质的儿子？”善良的司马炎本来就不想这么做，让王浑这么一说，马上就打消了这一念头。遗憾的是，后来正是刘渊在并州（山西一带）建立了中国境内的第一个胡人国家，成了五胡乱华之首。而正是刘渊的儿子刘聪后来派兵先后占领了洛阳和长安，最终造成西晋的灭亡。
