1938年4月，
冀南军区成立，由
八路军第129师东进纵队兼，辖第1至第5军分区。12月，东进纵队和冀南军区分开。
1940年6月，冀南军区进行整编，辖新编第7、第8、第9旅和第1至第5军分区（后增第6、第7军分区），1942年新编第7、第8、第4、第9旅，机关先后并入第6、第3、第4军分区，所属团归各军分区领导。
1945年6月，成立冀南指挥部。10月，又恢复冀南军区，辖第7至第11军分区和独立第4、第5旅等部队，属
晋冀鲁豫军区建制。
1947年7月2日，为适应转入战略进攻的需要，
中共晋冀鲁豫中央局和
晋冀鲁豫军区决定，以冀南军区独立第4、第5旅和3个独立团合编为
晋冀鲁豫野战军第10纵队。9月1日，该纵队在河南省
安阳地区正式编成，下辖第28、第29、第30旅，共1.9万余人。晋冀鲁豫军区副司令员
王宏坤兼任纵队司令员，
刘志坚任政治委员，
孔庆德任副司令员，
靖任秋任参谋长，
张力之任政治部主任。
在此期间，晋冀鲁豫军区所属民主建国军一部并入第10纵队。10月14日，第10纵队南下中原作战，于11月底进入
大别山地区，与晋冀鲁豫野战军主力会合。12月6日，为牵制国民党军围攻大别山地区的兵力，开辟新解放区，第10纵队于河南省信阳以南、湖北省
广水以北地区越过
平汉铁路（今北京―汉口），向
桐柏地区挺进。
1947年12月13日，进至湖北省应山县浆溪店，改编为
桐柏军区，下辖第28旅和由第29、第30旅组成的第1、第2、第3军分区。随后，桐柏军区部队向指定地区展开，相继解放桐柏、
枣阳、
泌阳县、
唐河县、
新野等城，初步打开了开辟桐柏新解放区的局面。
1948年1月中旬，桐柏军区部队发起
邓县战役，歼灭聚集在邓县（今
邓州）城的国民党军11个保安团约7000人。5月，桐柏军区归
中原军区建制。先后配合
中原野战军主力进行
宛西、
宛东战役，并再次攻克邓县，使桐柏解放区日趋巩固。7月，参加
襄樊战役，并以一部兵力进入
谷城、
南漳、
保康地区，开辟汉（水）南解放区。9月，成立第4军分区。此后，桐柏军区部队转至外线，先后配合
江汉军区部队进行
应城战役、
平汉铁路破击战。
1948年12月下旬，桐柏军区部队为配合正在进行的
淮海战役，并扩大解放区，发起
樊城战役，歼灭国民党军4200余人。
1949年2月中旬，根据中央军委关于统一全军编制及部队番号的命令，桐柏军区及所属部队组成中国人民解放军第58军。孔庆德任军长，
方正平任政治委员，
杨秀昆任副军长，张力之任副政治委员兼政治部主任，
张西三任参谋长。部队编为第172、第173、第174师。
1949年5月，第172师调归湖北军区建制，改称独立第4师，第58军军部率第173、第174师拨归河南军区建制，在豫西地区剿匪。9月，军部与河南军区机关合并，第58军番号撤销。