1949年5月，四野司令部宣布了统一整编的番号，并开始组建兵团部。此时，四野的主力部队向中南地区推进，43军军长洪学智被任命为15兵团副司令兼参谋长，政委赖传珠则担任15兵团政委。李作鹏调任43军军长，张明池为政委。与此同时，副军长杨国夫被调离四野，支援地方，担任江西军区副司令员。

杨国夫的任命在四野内显得尤为特殊。这位曾被赖传珠称为“抗战时期的夏伯阳式人物”的将领，在解放战争时期的职务升迁缓慢。他曾是四方面军的成员，1928年加入中国共产党，1929年入伍，随部队挺进川陕地区，担任副团长和团长。当红一四方面军会师后，他所在的部队编入红一军团序列，并随中央红军北上，之后一直在红一军团服役。

抗日战争全面爆发后，杨国夫并未加入主力部队，而是被派往山东创建抗日根据地。山东的地下党早已组织了抗日游击队，杨国夫被派往清河地区与这些力量合作。清河的抗日武装原本是“山东人民抗日救国军第五军”，后改为八路军山东人民抗日游击第三支队，司令员是马耀南，杨国夫则是副司令员。

马耀南本是知识分子，刚投笔从戎不久，作战经验不足，但杨国夫凭借过硬的军事素养和领导力，逐渐和部队磨合，部队也日渐壮大。不久，马耀南在战斗中牺牲，杨国夫接替了司令员的职务。之后，部队番号发生了多次变化，到1940年改为山东纵队第三旅，上级派遣许世友担任旅长。许世友与杨国夫同为四方面军出身，虽然彼此并非直属领导，但杨国夫早已听闻许世友的名声。许世友在担任第三旅旅长一年多后，调任胶东军区，山东的军事工作逐渐加强。

随着形势变化，清河军区于1944年合并进冀鲁边区，成为渤海军区，杨国夫担任司令员，军区的实力和管辖区域都大幅扩大，成为山东军区的重要二级军区。抗日胜利前夕，渤海军区主力改编为第七师，并在抗战胜利后被派往东北作战。

1946年8月，渤海军区与新四军第三师第七旅合并，组成东北民主联军第六纵队，杨国夫担任副司令员，陈光担任司令员。尽管杨国夫曾在多个重要岗位担任高职，但在陈光面前依然是副司令员，这种安排并不令人意外。实际上，杨国夫与陈光曾在1939年山东战役中共事过，后来陈光调往延安。

1948年，洪学智接任司令员后离开，然而上级并没有给予杨国夫接替的机会，而是任命了黄永胜为新司令员。杨国夫依然是副职，尽管许多副职在其他纵队得到了升职，杨国夫的职位却始终未变。

1949年，6纵改编为43军，并向江西挺进。江西虽然部分地区已解放，但仍有匪患残余，需要加强地方的军事力量。因此，43军留下部分部队驻守江西，而杨国夫也被留在江西担任副司令员。赖传珠曾评价杨国夫是抗战时期“夏伯阳式的人物”，这一说法源于苏联作家富尔曼诺夫笔下的英雄人物夏伯阳，他曾指挥一支农民武装取得了多次胜利，深受民众敬重。杨国夫的经历与夏伯阳有相似之处，他最初也在山东领导地方武装，将这支部队发展为43军的主力。