抗日战争时期，新四军坚持鄂豫皖湘赣边区抗日斗争的主力部队。1941年皖南事变后，豫鄂挺进纵队改编为新四军第五师，李先念任师长兼政治委员，刘少卿任参谋长，任质斌任政治部主任，下辖第十三、第十四、第十五旅、特务旅和第一、第二、第三纵队及豫鄂边区保安司令部和随营学校。1942年上半年，第十四、第十五旅、特务旅及豫鄂边区保安司令部撤销，分别成立第一至第五军分区。7月，第五师划归中央军委直接指挥。1943年，第五师师部兼鄂豫皖军区机关。1944年上半年，第五师以5000余人组成豫南游击兵团，配合八路军南下部队开辟遂平抗日根据地。10月，鄂豫皖军区改称鄂豫皖湘赣军区，第五师师部兼军区领导机关，下辖第十三旅及八个军分区。11月，鄂豫皖湘赣军区改称河南挺进兵团。1945年9月，第五师组建野战纵队，下辖第十三、第十四、第十五旅。同时组成鄂东、江汉军区，各辖一个独立旅。10月下旬，中原军区成立，第五师编入中原军区。至此，新四军第五师番号撤销。