到了1949年2月，郭天民调任新组建的第4兵团，任副司令员兼参谋长。司令员是陈赓，黄埔一期有名的“三杰”，虽然郭天民入校时，陈赓已毕业，但仍在黄埔军校任职。两个人当时虽不熟，但郭天民对陈赓的为人很了解。来到4兵团后，郭天民非常敬重陈赓，陈赓也非常注意采纳郭天民的意见。两个人配合得非常好。
刚上任，郭天民便面临很大的难题，这就是如何迅速成功地实施渡江作战。
为加强第一梯队军的指挥，郭天民到15军。他与军长秦基伟指挥15军作为先遣部队从河南漯河，周口地区出发，于3月27日占领望江华阳镇和宿松以东的老洲头。
1949年4月20日，在百万雄师渡江战役中，郭天民与秦基伟率15军首先跨过长江，一路猛冲猛打。之后，陈赓与郭天民率领4兵团，以迅雷不及掩耳之势，横扫中南大地，先是解放赣东北地区，抄到国民党所谓的浙赣铁路防线。之后兵分三路，连续作战一个月，打出1500里，解放了南昌等数十座城市。之后，第4兵团奉命参加湘赣和赣南战役，收复了曾是中央苏区红都的瑞金城，并为进军广东，直捣国民党政府所在地广州创造了条件。