曹操虽然很赏识司马懿的才干，却并不信任他。曹操觉察到他有雄豪之志，不禁深感忧虑。据说，曹操曾“梦三马同食一槽”。有人为曹操解梦：槽即曹氏，马即司马氏，食槽则预示着司马氏将侵夺曹氏政权。因此，曹操对司马懿极为反感，多次想加害于他。他曾对其子曹丕说：“司马懿非人臣也，将来一定会干预你的家事。”然而，曹丕与司马懿的关系甚好，并未把父亲的告诫当回事。他对司马懿总是多方保护，才免其被害。
司马懿看出曹操对他多有疑虑，于是作出满足现状之态。曹操对其功高不赏，他毫无怨言。虽然官位很低，他还是勤奋工作，好像对权势漠不关心。司马懿的韬光养晦之策，蒙混了老奸巨猾的曹操。曹操见他素无野心，也就消除了对他的怀疑和警惕。
曹丕称帝后，司马懿的地位逐渐提高，官至抚军大将军、录尚书事，参与了曹魏统治集团重大方针政策的制定和执行，成为曹丕的重臣。
231年，司马懿总管军事，同东吴、蜀汉对峙。他老谋深算，深谙用兵之道，连智谋过人的诸葛亮也无可奈何。他所采取的拖延战术成功地遏制了蜀汉的进攻，致使诸葛亮北伐中原接连失利，含恨病死五丈原。在频繁的用兵之中，司马懿逐渐掌握了曹魏的兵权，成为最有权势的大臣。这时曹魏政权日益腐朽，魏明帝大修宫室，广建园苑，频繁役使民力，致使农桑失业，国库空虚，加剧了阶级矛盾和统治集团内部矛盾。这样，就为司马懿控制曹魏政权创造了有利条件。
司马懿利用曹爽谒陵的机会发动政变的。司马氏政变后，独掌曹魏大权，咸熙二年，司马懿的儿子司马昭病死以后，其子司马炎则迫使曹奂“禅位”，自己当了皇帝，建立了西晋王朝。
由于曹丕当初不听父亲曹操的劝告，致使司马懿野心膨胀，独掌大权，丢了父辈的基业，后世子孙的大好河山。
