治军方面，羊祜一改以往将领“重威慑、轻教化”的作风，主张以仁治军，善待士兵。
他不仅关心士兵的衣食住行，还经常与士兵谈心，了解他们的需求与困难，对受伤的士兵更是亲自探望，亲自换药。
同时，羊祜还十分重视军队的纪律建设，严禁士兵骚扰百姓，若有士兵违反军纪，无论官职大小，一律严惩不贷。
在羊祜的治理下，荆州的军队士气大振，战斗力大幅提升，成为西晋最精锐的部队之一。
在与东吴的边境关系上，羊祜更是展现出了非凡的智慧与胸襟。
他主张“以德服人”，而非“以力服人”，严禁军队主动挑衅东吴，若东吴的士兵不小心越过边境，羊祜不仅不会下令射杀，还会派人将其送回，并赠送粮食与衣物；若东吴的百姓因饥荒越过边境投奔西晋，羊祜也会妥善安置，给予他们土地与粮食，让他们能够安居乐业。
有一次，西晋的士兵在边境巡逻时，发现了东吴将领陆抗的士兵在打猎，便想上前抓捕，羊祜得知后，立即制止了士兵，并说：“两国交兵，不斩来使，更何况是打猎的士兵，我们不能失了大国的气度。”
不仅如此，羊祜还派人给陆抗送去了美酒与礼物，陆抗对羊祜的为人十分敬佩，也派人回赠了羊祜一些江南的特产。
此后，西晋与东吴的边境便出现了“虽为敌国，却和睦相处”的奇特景象——双方不仅不再发生大规模的冲突，还经常互相赠送礼物，甚至在对方将领生病时，还会派人送去药品。
陆抗曾对部下说：“羊祜此人，品德高尚，胸怀宽广，若不是生在敌国，我真想与他结为好友。”
而羊祜也十分欣赏陆抗的才学与品行，他曾对西晋的官员说：“陆抗是东吴难得的良将，有他在，我们若想轻易灭吴，恐怕很难。”
正是这种“以德服人”的外交策略，让羊祜在东吴的军民中也赢得了极高的声望，为后来西晋灭吴奠定了坚实的民心基础。
当然，羊祜并非一味地“以德服人”，在推行仁政与和睦外交的同时，他也从未放松对灭吴大业的准备。
他深知，要想灭吴，必须具备强大的军事力量与充足的物资储备，因此他在治理荆州期间，一边休养生息，一边积极备战。
在军事准备方面，羊祜大规模扩建军队，招募流民与青壮年入伍，同时加强对士兵的训练，提升军队的战斗力。
他还派人对东吴的兵力部署、地形地貌进行详细的勘察，绘制了详细的军事地图，为日后的伐吴战争制定了周密的作战计划。
此外，羊祜还十分重视水军的建设——他深知，东吴地处江南，水系发达，水军实力雄厚，若想灭吴，必须拥有一支强大的水军。
因此，他在荆州的长江沿岸建立了多个水军基地，建造了大量的战船，训练了一批精锐的水军士兵，为西晋打造了一支足以与东吴水军抗衡的水上力量。
在物资储备方面，羊祜下令在荆州各地建立粮仓，囤积粮食，并派人管理粮仓，确保粮食的安全。
同时，他还鼓励百姓发展手工业与商业，促进荆州的经济发展，为军队提供充足的物资支持。
经过九年的准备，西晋在荆州的军事力量与物资储备都达到了顶峰，灭吴的条件已经成熟。
公元276年，羊祜向晋武帝司马炎上书，提出了《请伐吴疏》，详细阐述了伐吴的必要性与可行性。
在疏中，羊祜指出，东吴后主孙皓残暴不仁，荒淫无道，百姓怨声载道，国力日渐衰退，而西晋经过多年的休养生息，国力强盛，军民同心，此时伐吴，正是最佳时机。
他还在书中制定了详细的伐吴计划，主张兵分六路，水陆并进，直取东吴的都城建业（今江苏南京），一举灭亡东吴。
然而，羊祜的伐吴提议却遭到了朝中多数大臣的反对。
当时，西晋的西北边境出现了鲜卑族的叛乱，大臣们纷纷认为，应该先平定西北的叛乱，再考虑伐吴之事，以免腹背受敌。
晋武帝司马炎也犹豫不决，最终没有采纳羊祜的伐吴提议。
得知自己的提议被否决后，羊祜十分失望，但他并没有气馁，而是继续在荆州做好伐吴的准备，并多次上书晋武帝，劝说他尽快下定决心伐吴。
他在书中写道：“天下统一，