原本朝廷让司马懿便道往镇关中。但当到达白屋时，有诏书召他火速回京，三日之间，诏书五至。魏明帝手书说：“间侧息望到，到便直排阁入，视吾面”。据说，司马懿在襄平时，曾梦见魏明帝枕在他膝上，说：“视吾面。”他俯视，见魏明帝面有异色。如今一见诏书此语，大惊，乘追锋车昼夜兼行，从白屋到京城，四百多里，一夜而至。至则径人嘉福殿内御床旁边，满眼流泪，指问疾病。魏明帝拉着他的手，目视太子齐王，说：“以后事相托。死乃复可忍，吾忍死待君，得相见，无所复恨矣。”当天，魏明帝去世。时为景初三年（239年）正月。齐王曹芳继位，年仅八岁，司马懿乃与大将军曹爽一起接受遗诏辅佐少主。齐王即位，司马懿任侍中、持节、都督中外诸军、录尚书事，和曹爽各统精兵三千人，共执朝政。曹爽欲排挤司马懿，想让尚书奏事先通过自己，以便专权，向天子进言，改任司马懿为大司马。朝臣们认为以前大司马，有好多都死在任上，不吉，于是任命司马懿为太傅，效仿西汉丞相萧何那样，入殿不趋，赞拜不名，剑履上殿。以世子司马师为散骑常侍，子弟三人为列侯，四人为骑都尉。司马懿韬光养晦，大力拒绝不让子弟为官。正始元年（240年）正月，东倭（今日本）来朝纳贡，焉耆、危须诸国，弱水以南，鲜卑名王，都遣使来献。魏帝曹芳称许司马懿，又增加司马懿的封邑。起初，魏明帝曹叡喜爱大修宫室，建制非常奢靡豪华，百姓多为其苦。司马懿出征辽东回军的时候，为修宫室而被征役夫仍旧有万余人，其中布满各种珍奇异宝。到魏帝曹芳在位期间，经过司马懿的上奏，全部罢除了大修宫室的力役。魏国节用务农，国力大增，各国都来朝见。
正始二年（241年）四月，吴帝孙权分兵四路攻魏：全琮率军数万出淮南，诸葛恪攻六安，朱然攻樊城，大将军诸葛瑾攻柤中。五月，吴将全琮入侵芍陂，朱然、孙伦围攻樊城，诸葛瑾、步骘侵掠柤中，司马懿自请出兵往讨。朝臣认为，敌兵远来攻坚，当待其自破。司马懿以为不然。六月，司马懿统军增援。他知南方暑热低湿，大军不宜持久在此，先派轻骑挑战，朱然不敢动。于是，便休养土卒。检选精锐，招募勇士，发布号令，摆出攻城的架势。吴军惊惧，连夜撤退。在三州口（荆、豫、扬三州）为魏军追及，吴军被歼万余人，船舰物资损失甚多。而进攻六安、柤中的吴军亦无功而还。七月，增司马懿食郾、临颍，前后共四县，食邑万户，子弟十一人皆为列侯。司马懿功勋德望日渐盛大，然而却更加谦恭。正始三年（242年）春，魏帝追谥司马懿之父京兆尹司马防为舞阳成侯。三月，司马懿上奏修广漕渠，引河入汴，疏通东南各个大湖，于淮北大规模屯田。吴国派诸葛恪屯驻宛城，边人深以为苦。司马懿要率兵攻之，朝臣以为诸葛恪占据坚城，广有粮谷，孤军远攻，救兵必至。司马懿却确认为吴军所擅长的是水战，而不是陆战。湖水冬浅，船不能行，救兵必弃船就陆相救，于陆战破敌就很容易了。正始四年（243年）九月，司马懿率军出征，皇帝车驾送出津阳门。军队到达舒城，诸葛恪[kè]果然焚烧积聚，弃城而走。司马懿又巡视淮北屯田区，提拔农家子弟邓艾主持屯田。
正始五年（244年）春，大将军曹爽欲立威名，不听太傅司马懿劝止，力主伐蜀，魏帝曹芳从之。结果为蜀前监军、镇北大将军王平所败，魏军被阻于兴势，后方也军粮供应不上，牛马骡驴大量死亡，蜀涪县及费祎援军亦相继到达。曹爽见不能胜，被迫听从司马懿的劝告，于五月率大军退还。遭蜀军截击，魏军苦战，始得退回，失散、伤亡甚众。正始六年（245年）八月，曹爽废置中垒、中坚营，把两营兵众统交他的弟弟曹羲率领，司马懿援引先帝旧例制止，曹爽不听。正始七年（246年）正月，吴兵入侵柤中，有万余家百姓为避吴兵，北渡沔水，司马懿认为沔南离敌太近，倘若百姓奔还，还会引来吴兵，应该让他们暂留北方。曹爽不同意，说：“现在不能在沔南修城守地，反而让百姓留沔北，这不是长远之计。”司马懿则说：“放在安稳之处所则安稳，放在危险之处所则危险，人与物都是如此。所以兵书上说‘成败在于形，安危在于势’。形势是驾驭众人的关键，不能不审慎对待。假设吴贼以二万人防守沔水，三万人与我沔南诸军对抗，一万人猛攻柤中，我们怎么去援救呢？”曹爽不从，驱令还南。吴兵果然击破柤中，所失百姓，数以万计。曹爽的行为不但违背了顾命大臣应有的本分，也使魏国国力衰退，不少有志之士颇感不安，希望太傅主持公道。并州刺史孙礼就去和司马懿抱怨，司马懿安慰他说：“且止，忍不可忍。”正始八年（247年）四月，夫人张氏薨。曹爽用心腹何晏、邓飏、丁谧之谋，把郭太后迁到永宁宫，一时曹爽兄弟“专擅朝政，兄弟并掌禁兵，多树亲党，屡改制度”。五月，司马懿伪装生病，不问政事。正始九年（248年）三月，黄门张当把内庭才人石英等十一人送给曹爽，曹爽、何晏乘机与张当勾结，谋危社稷。曹爽及其同党也担心是司马懿装病。同年冬，河南尹李胜要到荆州任刺史，行前去拜望他。司马懿假装病重，李胜出来后对曹爽说：“司马懿已像尸体一样，卧床不起，只有残余之气，形神已经分离，不值得忧虑了。”以后又说：“太傅不能康复，令人忧伤。”所以曹爽等对司马懿未加戒备。而司马懿表面装病，实际上也在暗中布置，准备消灭曹爽势力。
嘉平元年（249年）正月，魏帝曹芳离开洛阳去祭拜魏明帝高平陵（今洛阳汝阳县大安乡工茹店村），大将军曹爽、中领军曹羲、武卫将军曹训均从行。司马懿乘机上奏郭太后，请废曹爽兄弟。当时，司马师为中护军，率兵屯司马门，控制京都。司马懿列阵，经过曹爽门前，曹爽部将严世登楼，引弩欲射司马懿，孙谦拉着他的胳膊阻止他说：“事情的真相还不可知。三次想要射箭三次被制止，孙谦皆按住严世之肘使之不能射出。”大司农桓范出城去投曹爽，蒋济担心道：“智囊往矣。”司马懿则说：“范则智矣，驽马恋栈豆，爽必不能用也。”司马懿召司徒高柔假节行大将军事，管领曹爽军营，对他说：“君为周勃矣。”召太仆王观行中领军事，统摄曹羲军营。司马懿自率太尉蒋济等勒兵出迎天子，驻扎在洛水浮桥。派人上奏章给皇帝陈述曹爽之罪。曹爽扣住奏章，把曹芳留在伊水之南，征发屯兵数千人以自守。桓范劝曹爽挟持皇帝到许昌去，发文书征调天下兵马勤王。曹爽果然疑惑，不从其计。反而夜遣侍中许允、尚书陈泰去见司马懿，探听动静。司马懿乘机数说曹爽的过失，让他早来服罪。接着又派曹爽的亲信殿中校尉尹大目去对他说，朝廷只是免他的官职，并以洛水为誓。同时，他还让蒋济写信给曹爽，称自己只是想将他们免官，劝告他尽早交出权力投降，可以保他们爵位富贵。曹爽欲信其言，桓范等人从晚上一直劝到第二天黎明。曹爽说：“司马懿正当欲夺吾权耳。吾得以侯还第，不失为富家翁。”桓范哭说：“曹子丹佳人，生汝兄弟，犊耳！何图今日坐汝等族灭矣。”于是，曹爽请免职，随曹芳回京。曹爽兄弟一回府，即被司马懿派兵包围。司马懿违背诺言，以谋反的罪名杀曹爽及其党羽何晏、丁谧、邓飏、毕轨、李胜、桓范等，并灭三族；但对曹爽门下的二流人物，司马懿特别宽大处理，如鲁芝，辛敞，王沈等人，后来还有人成为晋朝新贵。