豫鄂边区抗日根据地由新四军豫鄂挺进纵队、新四军第五师开辟。1938年11月，中共河南省委决定派刘子厚、危拱之、王海山率新四军八团队竹沟留守处一个分队南下信阳，与信阳县县长李德纯所率县常备队、七十七军桐柏山区工作团统一合编为信阳挺进队，并于翌年年初进驻四望山地区。1939年1月，李先念率新四军豫鄂独立游击大队由竹沟南下与信阳挺进队会合。2月，建立中共豫鄂边地委。3月，豫南省委组织部部长陈少敏率领八团队竹沟留守处一个中队从竹沟出发与李先念部会师，统一整编为新四军豫鄂独立游击支队，李先念任司令员，陈少敏任政治委员。11月，新的中共豫鄂边区委员会成立，郑位三任书记（未到职），陈少敏任副书记。边区抗日武装力量统一整编为新四军豫鄂挺进纵队，李先念任司令员，朱理治任政治委员。1940年9月，边区第一次军政代表大会按照“三三制”原则，选举产生了豫鄂边军政联合办事处，许子威任主任。年底，以白兆山、大悟山为中心的豫鄂边抗日根据地已建立9个抗日民主县政府，部队15000余人，财经工作、生产建设和文化教育事业亦有很大发展。皖南事变后，新四军豫鄂挺进纵队改编为新四军第五师，成立了豫鄂边区行政公署。1944年7月，第五师挺进豫南、豫中，扩大根据地。10月，中共豫鄂边区党委改称中共鄂豫皖湘赣边区党委。到抗战结束时，豫鄂边抗日根据地发展到北起舞阳、南至洞庭湖、西至汉水、东接安徽宿松，辖豫、鄂、皖3个省7个专区、39个县政权，人口达1000余万。

1938年10月12日，日军攻占信阳，并沿四望山东侧抄袭武胜、平靖、黄土三关，国民党军猝不及防，纷纷溃逃。国民党信阳县长李德纯，接受共产党守土抗战的主张，率领县政府常备队200余人，撤到尖山附近的北王岗，准备抗日。11月初，中共河南省委决定：以最快的速度搞起一支统一的坚强的人民武装打开局面，确立共产党在豫南敌后抗战的领导地位，并派刘子厚、危拱之、王海山率领八团队留守处一个分队，从确山竹沟出发，南下信阳，在北王岗与李德纯部汇合。经过谈判，将两支武装统一合编为信阳挺进队。李德纯任司令，王海山任副司令，危拱之任政治部主任，刘子厚负责党的工作，并担任信阳县政府第一科科长，协助李德纯作政府工作。12月中旬，根据河南省委的建军方案，党所领导的豫南各路抗日武装，先后到黄龙寺参加整编。信阳挺进队下辖三个大队，一个警卫排，成为豫南地区一支主要的抗日武装力量。翌年初，挺进队进驻四望山区。

1939年元旦前后，中共中央中原局委员、组织部长兼豫南省委书记朱理治，根据刘少奇的指示，在竹沟召开了豫南省委扩大会议，成立了党的军事委员会，朱理治兼主任，李先念、王国华为副主任。同时，决定抽新四军四支队八团队留守处一个连的武装和60余名干部，组成新四军豫鄂独立游击大队，李先念任司令员，周志坚任参谋长。1月17日，李先念率独立游击大队向武汉外围挺进，途中以四望山为立足点。李先念夜以继日地往返奔波在四望山和桐柏山之间，广泛地开展统战工作。春节期间，他曾只身带着一个警卫员，翻山越岭赶往随县长岗店，同鄂中区党委取得联系；接着以新四军豫鄂独立游击支队司令员身份，同五战区豫鄂边区抗敌工作委员会军事指挥、国民党湖北省第三专署专员石毓灵商谈抗日事宜；并同国民党西北军、四川军和桂系军的部队进行了联络。通过积极工作，同豫鄂边抗敌工作委员会领导人李范一、李相符，信阳县长李德纯，应城县长孙耀华，进步爱国知识分子、信南部分抗日武装领导人蔡韬庵等，建立了真诚的合作关系。

同时，李先念还派参谋长周志坚带领部队到信南、罗山、礼山、应山、大悟山等地，进行侦察游击活动；与当谷山、柳林一带的地方党和党掌握的零散武装取得联系。并相互配合多次袭击日伪军，在柳林车站、四里桥和余家店取得三战三捷的胜利，在方圆百里的广大群众中造成了很大影响。

2月下旬，李先念率独立大队和信阳挺进队一个中队，东进信罗边地区，在当谷山、灵山冲等地，与路东地下党和六大队会合，并将蔡韬庵、周性初等领导的抗日游击队编入了挺进队。同时，派出工作组开展群众工作，发展地方武装。至春夏之交，信阳挺进队发展到3个大队、14个中队，共1200余人。豫南特委在四望山地区积极开展党的活动，并于同年6月建立了豫鄂边地委。至此，伴随着军事斗争的节节胜利，以四望山为中心的豫南抗日根据地初具规模，使共产党在豫鄂边区有了一个比较稳固的立足点。

5月下旬，李先念率新四军独立游击大队由九里关进入鄂中大、小悟山地区，后又于孝感青石口与原红军战士许金彪组织的湖北省抗日游击大队会合，在李家湾、吴家湾地区歼灭伪军第八军1个营又2个连，俘伪旅长以下300余人。不久，进至安陆赵家棚地区。6月6日，豫南省委组织部长陈少敏率竹沟留守处1个中队、信阳挺进队2个中队和50多名干部，到达赵家棚与李先念部会师。同月中旬，李先念、陈少敏遵照中原局指示，在京山养马畈召开豫南、鄂中党和军队干部会议，讨论统一边区的武装问题，决定公开树立新四军的旗帜，将豫南、鄂中党领导的抗日武装，统一整编为新四军豫鄂独立游击支队，由李先念任司令员，陈少敏兼政治委员（不久由陶铸代职）。养马畈会议加强了鄂中地区党的领导，并使党在豫南、鄂中两地区的抗日武装有了统一的领导和指挥，扩大了共产党新四军的影响，为开展豫鄂边区的抗日游击战争奠定了基础。

会后，党在豫南、鄂中的武装很快进行了合编，豫鄂独立游击支队下辖五个团，独立自主地开展抗日游击战争，先后取得了豫南杨家河、罗山朱堂店等战斗的胜利，沉重地打击了敌人的嚣张气焰。

在开展武装斗争的同时，根据地的各项建设工作也迅速开展起来。从1940年1月起，在边区基本区内开展了民选运动，改造或重建了基层政权。3月，成立了边区宪政促进会。9月1日，边区党委在京山八字门召开了第一次军政代表大会，按照“三三制”原则，选举产生了豫鄂边军政联合办事处，公推许子威为办事处主任。办事处颁布了县以下政权组织暂行条例，通令各县开展民选运动，组织参议会和各级政府；颁布了关于恢复敌占区政权工作的决定和汉奸自首条例等。根据上述规定，在豫南成立了信应军政联合办事处。信南是全边区进行民选和减租减息的试点县，政权巩固，群众运动搞得轰轰烈烈，抗日爱国热情极为高涨。在1940年的扩军运动中,全县有2000多名青年报名参军。

豫鄂边区第一次军政代表会议的召开和边区联合办事处的诞生，有力地促进了边区根据地的形成。到1940年底，豫鄂边区已扩大到十几个县的范围，建立了9个抗日民主县政权，全区部队发展为拥有1.5万余人的游击兵团，民兵发展到约10万人，根据地的财经工作、生产建设和文化教育事业亦有很大发展。至此，北起信阳，西至汉水，东接安徽，南至洞庭湖的豫鄂边抗日根据地初步建成。

1941年1月，皖南事变后，新四军豫鄂挺进纵队受命整编为新四军第五师，李先念任师长兼政治委员。新四军第五师相继开辟了鄂东、鄂皖边根据地和鄂南游击区。1942年，新四军第五师十四旅主力依靠边区军民，血战出一片以鄂南大幕山为中心的根据地。同年6月，李先念兼任中共鄂豫边区委书记。1943年，新四军第五师在襄河以南和洞庭湖以北创建了新的根据地。

1944年1月，郑位三任中共鄂豫边区委书记兼新四军第五师政治委员。同年7月，第五师派出部队挺进豫南、豫中，扩大了根据地。同年10月，中共鄂豫边区委改称中共鄂豫皖湘赣边区委，并成立鄂豫皖湘赣军区。到抗日战争胜利前夕，根据地发展到东起安徽宿松，西至湖北宜昌，北接河南舞阳，南抵湖南洞庭湖畔的广大区域，辖7个专区和39个县级政权，面积9万多平方公里，人口1000余万人。