抗日战争时期，新四军坚持淮北地区敌后抗战的主力部队。1941年皖南事变后，八路军第四纵队改编为新四军第四师，彭雪枫任师长兼政治委员，张震任参谋长，肖望东任政治部主任。下辖第十、第十一、十二旅和萧县独立旅。5月，第四师转移到皖东北地区。6月，撤销第十二旅，并将各旅的骑兵集中编为师属骑兵团。7月，邓子恢任政治委员。9月，第十旅与第三师第九旅对调建制。1942年11月，第四师师部兼淮北军区。1944年9月，彭雪枫在战斗中牺牲，张爱萍任师长，韦国清任副师长。1945年7月，新四军第四师重建第十二旅。10月，新四军第四师第十一、第十二旅编入华中野战军第九纵队。至此，新四军第四师番号撤销。