1938年1月1日，山东省委在徂徕山四禅寺发动了抗日武装起义，打响了山东抗日武装斗争的第一枪。成立了八路军山东人民抗日游击队第四支队，洪涛任司令员，黎玉任政委，赵杰任副司令员，林浩任政治部主任，马馥塘任经理部主任。徂徕山起义点燃了山东人民武装抗日的烽火，揭开了中共山东省委独立自主领导山东抗战的序幕。

1937年10月，日军侵入山东境内，中共山东省委根据中共中央关于在敌后开展游击战争的指示，积极发动抗日武装起义。从渤海之滨，到沂蒙山区，先后爆发了十大抗日武装起义，抗日烽火燃遍齐鲁大地。其中，徂徕山起义，是中共山东省委直接发动和领导的抗日武装起义。

日军到达黄河北岸后，中共山东省委从济南转移到泰安。12 月23 日晚，日军第十师团强渡黄河，兵分两路进攻济南和泰安。省委书记黎玉、宣传部长林浩、秘书长景晓村和延安来的红军干部赵杰等同志，在泰安文庙召开紧急会议，决定在徂徕山举行抗日武装起义。

1938 年1月1 日，省委机关、泰安县委、泰安民众自卫团及平津、济南流亡学生和民先队员160余人奔赴徂徕山，在四禅寺举行起义誓师大会。黎玉代表省委宣布“山东抗日游击第四支队正式成立”，原红军团长洪涛为司令员，黎玉兼政委，赵杰为副司令员，林浩任政治部主任。

四支队成立不久，队伍迅速发展到500余人，经过短期突击军事训练，立即投入了战斗，先后取得寺岭庄伏击战和四槐树村伏击战的胜利，击毁日军汽车14辆，毙伤日军50 余人，极大地振奋了军心。短短一个多月的时间，第四支队发展到近千人，扩编为七个中队。

中共中央对山东的抗日武装斗争和根据地建设极为重视。1938年1月，中央在给山东省委的指示信中指出：“省委工作的中心应当放在鲁中区，开始依靠新泰、莱芜、泰安、邹县的工作基础，努力向东发展，尤以莒县、蒙阴等广大地区为重心。”2月底，省委在新泰刘杜召开会议，传达贯彻中央指示精神，决定第四支队兵分两路，挺进沂蒙山区，开辟新的抗日根据地。

支队司令员洪涛因患肺结核，于1938年5月病逝。政委黎玉根据支队司令员洪涛的推荐，决定由清河区的三支队司令员廖容标同志接任代司令员，随后立即赴延安汇报。

廖容标与洪涛是延安游击训练班的同学，入学前已是红军的团级指挥官，他们都是江西人。当时虽只有二十八岁，却已驰骋疆场十年，参加过中央苏区反“围剿”的斗争，走过二万五千里长征，1937年10月来到山东后，领导发动了清河区黑铁山武装起义。并带领八路军三支队在小清河伏击日军汽艇，打死日本侵略者十二个，其中包括一个少将旅团长，两个大佐联队长，闻名山东。由于廖容标时刻注意关心爱护老百姓，受到群众拥戴，也被称为“菩萨司令”。

1938年11月，莱芜县大队和八路军四支队经常在茶业山区南王庄村（1943年后，南王庄村划分为上王庄村和下王庄村两个行政单位）一带活动。

1938年12月，八路军山东人民抗日游击队第四支队改编为八路军山东纵队第四支队，廖容标任支队长，林浩任政委，赵杰任副支队长，周赤萍任政治部主任。第四支队下辖3个团，2个支队。陈奇任第一团团长，王凤麟任副团长，陈宏任政委；单洪任第二团团长，汪洋任政委；廖容标兼任第三团团长，姚仲明任政委；徐化鲁任先遣大队队长，蒋方宇任政委；武中奇任特务大队大队长，王建青任政委。

1942年12月至1943年12月，八路军山东纵队第四支队司令部指挥所设在南王庄村，廖容标任司令员，汪洋任中共泰山地委书记，副书记刘莱夫，敌工部长李枚青。