吴境。陆抗远远望见，感叹道：“羊将军军纪严明，不可侵犯。”傍晚，双方各自收兵。羊祜回到军中，检查所猎得的禽兽，凡是被吴人先射伤的，都送还给对方。吴人都很高兴，前来报告陆抗。陆抗召由来人，问道：“你们主帅能喝酒吗？”来人回答：“如果有美酒，他就会喝。”陆抗笑着说：“我有一斗好酒，珍藏很久了。现在交给你带回去，代我拜上都督，这酒是我陆某亲自酿造自己饮用的，特意奉上一勺，以表昨日出猎的情谊。”来人领命，带着酒离开了。左右问陆抗：“将军把酒送给对方，有什么用意呢？”陆抗说：“他既然对我们施德，我怎能不有所回报？”众人都感到十分惊讶。

来人回去见到羊祜，将陆抗的询问以及送酒之事一一陈告。羊祜笑着说：“他也知道我能喝酒啊！”于是命人打开酒壶取酒来饮。部将陈元说：“这酒里恐怕有诈，都督还是慢慢喝为好。”羊祜笑着说：“陆抗不是下毒害人的人，不必疑虑。”竟然将整壶酒一饮而尽。此后双方派人互通问候，常相往来。一天，陆抗派人探望羊祜。羊祜问道：“陆将军安好吗？”来人说：“主帅卧病数日，没有出门。”羊祜说：“我料想他的病与我相同。我这里已经配好成药，可以送给他服用。”来人拿着药回去见陆抗。众将说：“羊祜是我们的敌人，这药肯定不是什么好药。”陆抗说：“怎么会有下毒害人的羊叔子呢！你们众人不要怀疑。”于是服用了药物。第二天病就好了，众将都前来拜贺。陆抗说：“他专门施行德政，我却一味施行暴政，这样他将不战而使我军归服。如今我们应该各自保住疆界，不要贪图小利。”众将领命。

忽然报告说吴主派使者来了，陆抗迎接使者并询问来意。使者说：“天子传谕将军，火速进兵，不要让晋人抢先。”陆抗说：“你先回去，我随后有奏疏上奏。”使者离去后，陆抗立即起草奏疏派人送到建业。近臣呈给孙皓，孙皓拆开观看，奏疏中详细陈述了晋国不可讨伐的情况，并且劝谏吴主修养德行、谨慎刑罚，以安定国内为首要考虑，不应当穷兵黩武。孙皓看完后，大怒道：“朕听说陆抗在边境与敌人互通往来，如今果然如此！”于是派使者罢免陆抗的兵权，降为司马，让左将军孙冀代替他统领军队。群臣都不敢进谏。

吴主孙皓从改元建衡，到凤凰元年，肆意妄为，穷兵黩武，屯兵戍边，举国上下无不嗟叹怨恨。丞相万彧、将军留平、大司农楼玄三人见孙皓无道，直言苦苦劝谏，都被杀害。前后十几年间，孙皓杀害忠臣四十多人。孙皓出入常常带着五万铁骑，群臣惊恐畏惧，无可奈何。

羊祜听说陆抗被罢兵，孙皓德行有失，认为吴国出现了可乘之机，于是上表派人前往洛阳请求讨伐吴国。奏表大致内容是：

时机命运虽然是上天授予的，但功业必定要靠人来成就。如今长江、淮河的天险，比不上剑阁；孙皓的残暴，超过刘禅；吴人的困苦，甚于巴蜀百姓；而大晋的兵力，比以往更为强盛。不在此时平定四海，却继续拥兵对峙，让天下百姓困于征战戍守，历经盛衰，这是难以长久的。

司马炎看了奏表非常高兴，便下令兴兵。贾充、荀勖、冯紞三人极力进言，认为不可，司马炎因此没有行动。羊祜听说皇上不批准他的请求，叹息道：“天下不如意的事情，十有八九。如今上天赐予的机会却不把握，岂不可惜！”到了咸宁四年，羊祜入朝，奏请辞官回乡养病。司马炎问道：“爱卿有什么安邦之策，可以教导朕呢？”羊祜说：“孙皓暴虐到了极点，如今可以不战而胜。如果孙皓不幸去世，吴国再立贤君，那么吴国就不是陛下所能轻易夺取的了。”司马炎恍然大悟，说：“爱卿如今就带兵前往讨伐，怎么样？”羊祜说：“臣年老多病，不堪担当此任，陛下可另选智勇之士。”于是辞别司马炎回乡。这年十一月，羊祜病危，司马炎亲自乘车前往他家探望。司马炎来到卧榻前，羊祜落泪说：“臣即使万死也不能报答陛下的恩情！”司马炎也哭着说：“朕深感遗憾，没能采用爱卿讨伐吴国的计策。如今谁可以继承爱卿的志向呢？”羊祜含泪说道：“臣就要死了，不敢不竭尽愚忠。右将军杜预可以任用，如果讨伐吴国，一定要用他。”司马炎说：“举荐贤才是好事，爱卿为什么在朝中举荐了人，却烧掉奏稿，不让别人知道呢？”羊祜说：“在朝堂上任命官职，却在私下接受别人的谢恩，这是臣所不赞同的。\b_a!i`m￠a-s/y+.+c·o`m￠”说完就去世了。司马炎大哭着回宫，下令追赠羊祜为太傅、巨平侯。南州百姓听说羊祜去世，停止集市交易痛哭哀悼，江南守边将士也都痛哭流涕。襄阳人怀念羊祜在世时，常去岘山游玩，