土地革命战争时期，
中国工农红军主力长征后，在湖北省北部和河南省南部地区坚持游击战争的革命武装。
1934年11月，中国工农红军第25军长征途经桐柏山地区时，曾建议鄂豫边区中共组织建立革命武装，开展游击战争，创建革命根据地。中共鄂豫边工作委员会经过近1年的艰苦工作，于1935年8月与中共豫南党组织合并，成立中共鄂豫边省委员会，张星江任书记，统一对豫南、豫西南等地革命斗争的领导，加快在桐柏山地区开展游击战争的准备。1936年1月，中共鄂豫边省委在信阳东小石岭村建立鄂豫边红军游击队，张星江兼任政治指导员，原中共河南省委军事委员会书记周骏鸣任队长。2月，游击队发展到30余人、10多支枪，在天目山地区开辟出一块游击区。5月，驻南阳国民党军和保安团各一部，对鄂豫边红军游击队发动“清剿”，红军游击队采取“化整为零”、在生存中求发展的方针，分赴泌阳、确山和信阳县境内活动。12月，中共鄂豫边省委根据
中共中央北方局指示，决定一面加强抗日宣传，一面积极发展力量，为全国
抗日战争的到来做准备。之后，红军游击队辗转泌阳、确山、桐柏等县，积极开展抗日民族统一战线工作，并对地主武装主动进攻，队伍迅速发展到约130人，改称为红军游击大队。1937年春，国民党军1个多师“清剿”鄂豫边游击区，红军游击大队被迫退入深山密林，由于给养困难等原因，减员至50余人。抗日战争全面爆发后，红军游击队根据中共中央指示和当地国民党军仍不断“清剿”的情况，采取积极扩大队伍，以战迫和的方针，一边坚持反“清剿”斗争，一边争取实现和谈。到9月，队伍又发展到200余人，改编为豫南人民抗日军独立团，周骏鸣任团长，王国华任政治委员。12月，中共鄂豫边省委与国民党第一战区就停战谈判达成协议。1938年1月中旬，独立团1300余人编为新四军第4支队第8团。