羊祜镇守荆州期间，喜游山水。每到风和日丽之日，他一定要去襄阳城南的岘山游乐，饮酒" />
慨："羊叔子不见得比颜子差啊！"
羊祜镇守荆州期间，喜游山水。每到风和日丽之日，他一定要去襄阳城南的岘山游乐，饮酒赋诗，终日不倦。有次游乐时，羊祜对从事中郎邹湛等人叹道："岘山雄伟壮观，自古以来为贤达高士喜游之处，虽然当年他们一如现在的我们一样，谈笑风声，但终归还是湮没在时间这条长河里了。人在宇宙中的渺小，想来令人悲伤。"
邹湛说："你德冠四海，道接前哲，美好的业绩和名望一定会和岘山一样，永存于世。至于我等之人，才会湮没无闻！"
曹髦被戮后，曹奂即位，时称魏元帝。羊祜被封关内侯，食邑一百户。期间善忌贤能的钟会，受到司马昭宠信，羊祜为免冲突，示弱于他。钟会死于成都兵变后，羊祜复被司马昭、司马炎父子重用，兼管内外政事。
公元266年，司马炎受禅称帝，建立西晋王朝。羊祜被授任中军将军，加散骑常侍，进爵郡公，食邑三千户。羊祜为防权臣贾充等人妒嫉于己，坚决推辞公爵，只接受本爵钜平子进封为钜平侯的诏命。
不久羊祜领命主抓荆州防务。其时官场有个习俗，前任官长如果死于官署，后继者便会以居地不吉为由，拆毁旧府，另行修建。羊祜认为，这是迷信，纯属浪费，下令一律禁止。
公元272年，吴国西陵守将步阐，因担心吴主孙皓拿其开刀，举城投晋。晋武帝司马炎即派杨肇、羊祜及徐胤各率一路大军牵制、攻击吴军，以助步阐守城。但由于吴国名将陆抗的卓越军事指挥才能，三路援军败的败，撤的撤，因此孤立的步阐最后因城陷被诛三族。
"西陵之战"后，有官员上表弹赅羊祜："羊祜率军八万多，吴军不过三万，羊祜在江陵按兵不前，使贼兵备好攻守战具，并只派杨肇这支偏师深入险地，兵少而粮草不继，致使我军失利。羊祜违背诏命，没有大将节操，应免去官职，保留侯爵回府第闲居。"结果，羊祜被贬为平南将军，杨肇则被贬为平民。
羊祜认真总结"西陵之战"教训，他觉得：吴国的国势，因于吴主孙皓的暴政，已呈衰退状态，但仍有一定实力，特别是荆州尚有陆抗这样的优秀将领主持军事，因此平吴战争不宜操之过急。于是，他采取军事蚕食和提倡信义的两面策略，以蒙弥吴国。
羊祜运用信义之举有"义释被俘吴将"、"相约交战时间"、"等价交换粮绢"、"伤禽遣还吴军"等，尤为让人称道的是，听说吴军主帅陆抗患病，羊祜对症送药，以至陆抗经常告诫将士们："羊祜
…。。