公元179年出生

建安十三年(208)，曹操辟司馬懿為文學掾。歷任黃門侍郎、議郎、丞相東曹屬、丞相主薄等職。

建安二十年(215年)，隨曹操征討張魯。

建安二十四年(219)，曹操進封魏王后，司馬懿為太子中庶子，佐助曹丕。不久，轉為丞相軍司馬。

延康元年(220年)，曹操去世，司馬懿管理喪葬諸事。同年，曹丕即魏王位，司馬懿受封河津亭侯，轉丞相長史。次子司馬昭同年，曹丕登皇帝位，任命司馬懿為尚書，不久轉督軍、御史中丞，封安國鄉侯。

黃初二年(221年)，免去督軍官職，升任侍中、尚書右仆射。黃初三年(222年)，和黃初五年(224年)，曹丕兩次伐吳，都以司馬懿鎮守許昌，并改封司馬懿為向鄉侯。

黃初六年(225年)春二月，轉任撫軍大將軍、假節，領兵五千，加給事中、錄尚書事。

黃初七年(226年)五月，曹丕去世，令司馬懿與曹真、陳群、曹休為輔政大臣。八月，孫權出兵攻魏。司馬懿擊敗諸葛瑾，并斬殺吳將張霸，斬首千余級。十二月，升任驃騎將軍。

太和元年(227年)六月，明帝命司馬懿駐扎宛城，加督荊、豫二州諸軍事。

太和二年(228年)正月，司馬懿擒斬孟達，傳首京師，俘獲萬余人。

太和四年(230年)，司馬懿任大將軍、加大都督、假黃鉞，與大司馬曹真一起伐蜀。八月，司馬懿從西城沿沔水直達朐腮，克新豐縣，駐軍丹口，后遇雨班師。

太和四年(230)，上表倡議建立上邦軍屯。

太和五年，都督雍、涼二州諸軍事，開始主持對蜀的戰爭。青龍二年(234年)二月，蜀丞相諸葛亮率軍10萬出斜谷攻魏，司馬懿率軍渡渭水，背水筑壘阻擊。兩軍對峙。五月，吳軍10萬三路攻魏，以配合蜀軍作戰。魏明帝派秦郎率2萬人援司馬懿，自率主力反攻吳軍。七月，吳軍撤走。八月，司馬懿與諸葛亮相持百余日。諸葛亮當月病故于五丈原軍中，蜀軍撤走。

青龍三年(235年)，司馬懿升任太尉。

景初二年(238年)正月，司馬懿率牛金、胡遵等步騎四萬征公孫淵，破襄平。屠戮七千多人筑京觀。

景初三年(239年)正月，司馬懿與曹爽一起接受遺詔輔佐少主曹芳。司馬懿任侍中、持節、都督中外諸軍、錄尚書事，和曹爽共執朝政。

正始二年(241年)四月，孫權攻魏，六月，司馬懿統軍增援，吳軍退。與鄧艾籌劃在淮南淮北創建軍屯。七月，增司馬懿食郾、臨潁，前后共四縣，食邑萬戶，子弟十一人皆為列侯。正始四年(243年)九月，司馬懿在率軍征吳。

正始八年(247年)，五月，司馬懿偽裝生病，不問政事。

嘉平元年(249年)春正月，司馬懿殺曹爽及其黨羽何晏、丁謐、鄧揚、畢軌、李勝、桓范等，并滅三族。

嘉平三年(251年)四月率軍討伐王凌。

嘉平三年(251年)八月，司馬懿去世，享年七十三歲。

嘉平三年(251年)六月，司馬懿病(另一說法為司馬懿是被箭射死的)，夜間常夢見賈逵、王凌為崇。八月，司馬懿去世，享年七十三歲。當年九月，司馬懿被葬于河陰，謚文貞，后改為文宣。晉武帝受魏禪，給司馬懿上尊號為宣皇帝，稱其陵墓為高原，廟號高祖。