1944年11月，中共豫鄂边区党委和五师决定将中共豫南工委改为河南工委，将豫南游击兵团改为河南挺进兵团，黄霖任兵团司令员，五师副政委任质斌兼任工委书记和兵团政委。兵团下辖四个团，一团坚守确泌桐根据地；二、三团打回汝正确地区；四团向豫中挺进，开辟
遂平、
西平、
叶县、
舞阳、
方城等抗日根据地。
至1945年6月，新四军豫中游击兵团收复了遂平、西平、舞阳大部分地区和叶县、方城、
郾城等县部分地区，开辟了以嵖岈山为中心的
豫中抗日根据地，并建立了中共豫中工作委员会，栗在山任书记。
1945年7月初，新四军豫中游击兵团和叶舞支队护送五师参谋长刘少卿赴延安，抵达
禹县，与八路军河南军区部队会合，并协助八路军打退了日军对禹县根据地的进攻。7月底，八路军
河南军区三支队
陈先瑞部南下嵖岈山区，与新四军豫中游击兵团会师。8月上旬，两支部队合编，成立了中共豫中地委、豫中专署和豫中军分区，归河南区党委、河南行政公署和河南军区领导，栗在山任地委书记兼分区政委，欧阳景荣任专员，
陈先瑞任军分区司令员。