头脑清醒的政治人物

羊祜出身于汉魏名门士族之家。从他起上溯九世，羊氏各代皆有人出仕二千石以上的官职。祖父羊续，汉末任南阳太守。父亲羊衜为曹魏时期的上党太守。母亲蔡氏是汉代名儒、左中郎将蔡邕的女儿。姐姐嫁与司马懿之子司马师为妻；而他本人迎娶的是曹魏皇室成员夏侯霸的女儿。

在羊祜的青年时期，曹魏统治阶级内部正进行着争夺最高权力的斗争。这一斗争主要是在曹氏集团与司马氏集团之间展开的，羊祜与斗争的双方都有姻亲关系。处于夹缝中的羊祜不愿意卷入到旋涡之中，采取了回避态度。他虽然因博学多才、善于写文、长于论辩而有盛名于世，却多次回绝州郡政府的征辟，主要是出于上述的原因。

景初三年（239），魏明帝曹睿去世，继位为帝的齐王曹芳只有八岁。大将军曹爽与太尉司马懿受遗命辅政，两大集团的斗争白热化。正始初年，曹氏集团在斗争中明显地占据优势。曹爽把司马懿排挤到太傅的闲职之上，将统领禁军、掌管枢要的权力皆掌握到自己的弟兄及心腹的手中，从而控制了政府的实权。司马懿实行韬晦之计，假装生病，暗中却加紧布置，伺机反攻。羊祜虽然年轻，但很有政治头脑。他判断曹爽终将不是司马懿的对手。所以， 当曹爽征辟他为僚属的时候，羊祜不但自己拒绝出仕，而且劝阻同时受辟的王沈，也不要答应曹爽的要求。由于门第关系，尽管羊祜基本游离于两大集团争斗之外，但从思想感情上说来，他对司马氏的一派显得更为亲近一些。

正始十年（249），司马懿发动高平陵之变，杀掉曹爽，夺得曹魏政府的军政大权。政变之后，司马懿大举剪除曹氏集团，与曹爽有关的很多人遭到诛连。羊祜的岳父夏侯霸为逃避杀戮，投降了蜀国。在这场灾难中，羊祜并未因岳父降蜀受罚，这大约得济于他的亲司马氏的政治态度。

高贵乡公曹髦统治时期，司马昭执政。羊祜第一次接受征辟，先后出仕中书侍郎、给事中、黄门郎等职。陈留王曹奂时期，羊祜调任为秘书监。曹魏末年已完全是司马氏的一统天下，司马懿父子兄弟相继执政。他们先后废杀两位皇帝，又屡次诛杀大臣，改章变制，发号施令，成为没有皇帝名号的实际统治者。这时，羊祜已加入司马氏集团，并逐渐上升为该集团中的重要人物。司马炎建五等爵制，羊祜以功被封为巨平子，食邑六百户。不久，又被拜为相国从事中郎，与司马炎的另一心腹荀勖共掌机密。晋代魏前夕，司马炎调羊祜为中领军，把统领御林军，掌管京城内外戍卫的重任交给了他。咸熙二年十二月（266 年 1 月），司马炎受禅称帝，建立西晋王朝。羊

祜以佐命之功，被进号为中军将军，加散骑常侍，进爵为郡公，食邑三千户。羊祜怕引起贾充等权臣的妒嫉，固让封公，只受侯爵。泰始初年，司马炎曾改任羊祜为尚书右仆射、卫将军等职。