东汉末年，朝廷昏庸腐败，在统治阶级内部，宦官集团和官僚集团之间争夺权力的斗争日益激烈。公元189年，汉灵帝驾崩，刘辩即位，史称少帝。这时，中军校尉袁绍乘机起兵，一举诛杀大小宦官两千余人，从而结束了为时数十年宦官专权的局面。然而，由此也引起了天下大乱，各郡、州、县出现了失控的局面。经过几十年的兼并战争，最后出现了魏、蜀、吴三国鼎立的分裂局面。魏武帝曹操，霸主中原;昭烈帝刘备，称雄西南;吴大帝孙权，割据江东。三国之间连年混战，广大百姓饱受祸害，有的流徙，有的死亡，村落破败，户口大减。《魏书·张绣传》中记载说：“天下户口减耗，十裁一在。”有的地方的人口甚至只有原来的几十分之一。大量百姓死亡和流徙，全国连绵数百里的土地，完全荒芜，无人耕种。连昔日富庶繁荣的京城洛阳附近，也变得蒿草丛生，百里不见人烟。曹操在一首诗里说：“白骨露于野，千里无鸡鸣。”就是这种荒凉景象的真实写照。
司马炎的祖父司马懿，河内郡温县人，祖上许多人做过西汉的大官，是有名的望族，后来当上了曹操丞相府主管一切事务的主簿。司马懿老谋深算，智慧过人。曹操死后，司马懿历任魏文帝曹丕、魏明帝曹睿两代总管朝政的重臣，主管军事，统率魏军，同东吴、蜀汉对峙。蜀汉的诸葛亮智谋惊人，遇到司马懿也不免有些顾忌。东吴的孙权对他顾忌更大，曾对人说：“司马懿善用兵，可谓变化如神，所向无敌。”
公元239年，魏明帝死，8岁的曹芳即位，由司马懿和曹爽共辅幼主。曹爽知道司马懿实力比自己强百倍，对自己的威胁太大，所以，决定除掉司马懿。司马懿见势不妙，便在曹爽辅政后的第8年，声称自己年老多病，力不从心，回乡养病，但在暗地里等待时机，伺机而动。曹爽认为司马懿突然称病肯定另有阴谋。曹爽的内线汇报说，司马懿已经不能吃东西了，话也不能说了，头脑也不清楚了。曹爽从此放松了对司马懿的提防。
公元249年，曹爽陪伴魏帝曹芳到洛阳城南90里的高平陵去祭祀。佯称重病的司马懿利用这一时机，假借皇太后的懿旨，精神抖擞地在城内突然举行政变，其长子司马师指挥早已蓄养的3 000名敢死队，关上洛阳城所有的城门，占据武器仓库，接管了守卫皇宫的禁军。然后，又派主力冲出宣阳门，来到洛水浮桥边上，杀气腾腾地逼向祭祀人群。最后，魏帝终于迫于司马懿的威逼，诛杀了曹爽。曹魏的军政大权又重新转移到司马懿手中。
公元251年，司马懿得病去世，他的长子司马师任抚军大将军、录尚书事，继续辅政。公元254年，魏齐王曹芳已经成年，他不满司马师专权，与几位大臣密谋除掉司马师。由于走漏风声，司马师首先动手，诛杀参与密谋的大臣，曹芳也遭废黜，另立年仅14岁的曹髦为帝。不久，司马师死，他的弟弟司马昭接任其职，朝廷里的要事都必须经过司马昭之手。随着曹髦长大，成熟，他已经懂得朝政，感到魏朝天下岌岌可危，心中十分愤慨。
公元260年5月7日，曹髦命令宫中宿卫士兵，捕杀司马昭。司马昭派大将贾充率兵将曹髦杀死，然后胁迫皇太后出来说话，以掩盖自己的弑君之罪。太后下诏说：“曹髦越大越不像话，竟用箭射向宫中要杀我，有的箭还掉到我的脚旁，他还狠心地用毒药来害我，这种不孝不敬的人，早该死了！”这样，司马昭杀掉无德不孝之君的行为就成为合法的了。曹魏皇帝连续被废被杀，改朝换代的气氛一年比一年浓厚，司马昭实际上已经掌握了皇权。但社会上还有相当一批人对这一局面很不满意。司马昭一边收罗文人学士，为自己登基制造舆论，一边积极准备征讨三国之中力量较弱的蜀汉。
公元263年，司马昭派大将钟会、邓艾、诸葛绪率兵18万，进军蜀汉。捷报频频传来，魏帝曹奂下诏将司马昭封为晋公，拜为相国，并赐“九锡”，即：最华贵的车马、王袍似的衣服、乐器、朱红色的门户、有屋檐的台阶、300名卫兵、先斩后奏的刀斧、表示征伐的弓箭、祭祀用的香酒。这九锡是古代帝位更替的前奏，往往先受九锡，再行帝位禅让之礼。公元263年，蜀汉灭亡，司马昭因功又封为晋王。
争当太子“无为”治国
司马昭基本上掌握了魏国的大权，魏国皇帝成了名副其实的傀儡。司马炎是晋王司马昭的长子，按照封建时代立嫡以长的制度，司马炎本该是合法的王位继承人，但其父司马昭把小儿子司马攸过继给自己的哥哥司马师为子，并打算立之为世子。司马昭每次见到司马攸，便拍着晋王的宝座对他说：“这属于桃符(桃符是司马攸的小名)的宝座。”宠爱之情溢于言表。正是在这种复杂的政治背景下，不甘寂寞的司马炎开始了他争夺王位的活动。
齐王司马攸为人温文尔雅、亲贤好施，喜爱古代典籍，并且多才多艺，是一位有着浓厚的艺术气质的儒雅之士。而司马炎却似乎是一个天生的政治家，他在气质上几乎完全秉承了父辈的天性，既有足以左右形势的谋略，同时也有着一副宽厚仁慈的外表。总之，政治家的天性加上客观上的优势，使得他在复杂的宫廷斗争中游刃有余。到晚年，司马昭不得不以强大的政治理智克服个人情感，接受了大臣们的建议，立司马炎为世子。
公元265年，司马昭病死，司马炎继承了相国晋王位，掌握全国军政大权。同年12月，经过精心准备之后，仿效曹丕代汉的故事，为自己登基做准备。在司马炎接任相国后，就有一些人受司马炎指使劝说魏帝曹奂早点让位。不久，曹奂下诏书说：“晋王，你家世代辅佐皇帝，功勋高过上天，四海蒙受司马家族的恩泽，上天要我把皇帝之位让给你，请顺应天命，不要推辞！”司马炎却假意多次推让。司马炎的心腹太尉何曾、卫将军贾充等人，带领满朝文武官员再三劝谏。司马炎多次推让后，才接受魏帝曹奂禅让，封曹奂为陈留王。司马炎于公元265年，登上帝位，改国号为晋，史称为西晋，晋王司马炎成了晋武帝。历史有惊人的相似之处，魏王朝从曹丕让汉帝禅位称帝，传了45年，到此结束。司马昭也同样让魏帝以禅让的手段获取了帝位，魏国遂亡。但这时的司马炎心里并不轻松，他很清楚，虽然他登上王位宝座，但危机仍然存在。
从内部看，他的祖父、父亲为了给司马氏家族夺取帝位铺平道路，曾经对曹操以后的曹氏家族以及附属势力进行了残酷的屠杀，这件事所造成的阴影至今仍然横亘在人们的心中。从外部看，蜀汉虽平，孙吴仍在，虽说此时的东吴已不足以与晋抗衡，但毕竟也是一个不小的威胁。内忧外患告诉司马炎，要想巩固政权，进而完成吞并东吴、统一中国的大业，就首先要强固统治集团本身的凝聚力，而要达到这个目的，就必须采取怀柔政策。为此，司马炎在即位的第一年，即下诏让已成为陈留王的魏帝载天子旌旗，行魏正朔，郊祀天地礼乐制度皆如魏旧，上书不称臣。同时又赐安乐公刘禅子弟一人为驸马都尉，第二年又解除了对汉室的禁锢。这不但缓和了朝廷内患———尤其是消除了已成为司马氏家族统治对象的曹氏家族心理上的恐惧———而且还安定了蜀汉人心，进而为赢得吴人的好感，为吞并东吴取得了主动权。
为了尽早地使国家从动乱不安的环境中摆脱出来，为统一奠定牢固的基础，无为与宽松政策成了西晋之初的立国精神。这种立国精神在国家的各种领域中充分地体现出来。公元268年，司马炎诏书中明确指出：“为永葆我大晋的江山，现以无为之法作为统领万国的核心。”同年，又向郡国颁下5条诏书：一曰正身，二曰勤百姓，三曰抚孤寡，四曰敦本息末，五曰去人事。当年，曹魏王朝的奠基者曹操继东汉的动乱政治之后，为了安定人心，恢复国力，曾实行了比较宽松开放、节俭求实的治国方略。但到了曹丕，政治渐趋严厉，社会风气亦腐败，曹操当年的风范已不复存在。皇帝为了满足自己的私欲，往往不断把强大的物质重负转移到百姓的身上，而长期的战乱更使百姓在惨淡的生计之外，还在心理上增添了一种恐惧与疲惫之感。在这种情况下，司马炎反其道而行之，提出无为而治的强国方略是最适合不过的。
击灭东吴统一全国
西晋成立之初，晋武帝为了收买人心，大封功臣，许多大家族都被封为公侯。短短几年时间，晋武帝共封了57个王，500多个公侯。蜀汉灭亡不久，晋武帝为了稳定巴蜀人心，又任用了一批原在蜀汉供职的官吏为朝官。晋武帝没有采取“一朝天子一朝臣”的惯用手法，而是采取拉拢、收买人心的办法，稳定各级官吏，以确保社会稳定地过渡。因为晋武帝还看到，蜀汉虽亡，东吴未灭，全国还未统一。于是他开始运筹帷幄，准备击灭东吴，结束全国的分裂局面。早在三国鼎立之时，魏的势力已超过蜀、吴，如以人口计，魏约占全国人口4/7，蜀、吴合占3/7。公元263年，魏灭蜀之后，三国鼎立变成了南北对峙，魏的力量更加强大。晋武帝代魏之后，雄心勃勃，“密有灭吴之计”，准备出兵灭吴，统一全国。
西晋全国正处于一种积极的态势之中，然而吴国却是在走下坡路。吴主孙皓的荒淫、残暴使吴国丧失了重整旗鼓的机会。孙皓命令大臣的女儿要先经过他的挑选，漂亮的入后宫供他一人享受，剩下的才能谈婚论嫁，这使他丧失了大臣们的支持，自毁根本，最终成了孤家寡人。对他劝谏的中书令贺邵不但没有受到他的表扬，反而被他用烧红的锯条残忍地锯下了舌头，其残暴程度与商纣王没有任何区别。孙皓杀人的方法很多，很残忍，像挖眼、剥脸皮和砍掉双脚等。孙皓的残暴注定了他要灭亡。由于孙皓的残暴使手下的将领们也对他丧失了信心，纷纷投降西晋。西晋的大臣们见吴国国力下降，政局不稳，也纷纷劝说司马炎趁机灭掉吴国。
但是，晋武帝受到了以太尉录尚书事贾充为首的保守派的反对，他们认为：吴有长江天险，且善水战，北人难以取胜。且近几年来西鲜卑举兵反晋，此时对吴作战，并“非其时”。而羊祜、张华、杜预等人则认为：吴帝孙皓腐化透顶，他不但对广大人民残酷剥削、镇压，而且在统治集团内部也排除异己，用刑残酷。孙吴目前是“上下离心”，如此刻出兵，“可不战而胜”。如果错过机会，“吴人更立令主”，励精图治，再去灭吴就相当不容易了。两派意见，针锋相对。这样，一个极其严重的问题就摆在了晋武帝面前：是否出兵灭吴，统一全国？晋武帝意识到，自秦汉以来，统一已成为人类历史的主流，广大平民百姓要求统一，渴望和平。因此，晋武帝坚定地站在主战派一边。
为了完成灭吴大业，晋武帝在战略上做了充分准备。早在公元269年，他就派羊祜坐守军事重镇荆州，着手灭吴的准备工作。羊祜坐镇荆州后，减轻赋税，安定民心，荆州与东吴重镇石城(今湖北钟祥县)相距最近，晋军采取了“以善取胜”的策略，向吴军大施恩惠。由于孙皓挥霍无度，部队士兵常常领不到军饷，连饭也吃不饱。羊祜命人向吴军送酒送肉，瓦解吴军。这样，不时有吴军前来投降，羊祜下令说：吴军来要欢迎，走要欢送。有一次，吴将邓香被晋军抓到夏口，羊祜部下坚持要杀掉，羊祜不但不杀邓，而且还亲自为其松绑，把邓送了回去。有时，吴军狩猎打伤的野兽逃到了晋军领地，晋军也把这些野兽送到吴军帐内。正是由于这样的“厚”爱，东吴将领们的心已经一步步趋向晋军。
晋武帝在襄阳一边命羊祜以仁德对吴军施加影响，一边在长江上游的益州训练水军，建造战船。经过长达10年时间的充分准备，公元279年，晋军开始向东吴展开大规模的进攻。为了迅速夺取胜利，晋军分5路沿长江北岸，向吴军齐头并发。第6路晋军由巴东、益州出发，沿江东下，直捣吴军都城建业。20万晋军直扑东吴。东吴守军，在巫峡钉下了无数个锋利无比的、长十余丈的铁锥，在江面狭窄处用粗大的铁链封锁江面。晋军先用大竹排放入长江，晋军在船上载了无数根数丈长的用麻油浇灌的火点燃火炬，熊熊烈火能够把铁链烧断。就这样，东吴长江的防守设施被一个个排除了。
在第6路晋军进攻东吴时，为了分散、吸引守卫建业的吴军兵力，安东将军王浑率一路晋军，由北向南，直取建业。孙皓忙命丞相张悌统率主力渡江北上，迎击王浑，结果沿江东下的晋军乘机攻占了建业。由于晋武帝准备充分，时机恰当，战略正确，前后仅用了四个多月，便夺取了灭吴战争的全部胜利。从此，东吴的全部郡、州、县，正式并入晋国版图。公元280年，三国鼎立的局面完全结束了。晋武帝司马炎终于统一了全国，结束了长达近百年的分裂局面。