抗日战争时期，中国共产党统一领导的坚持在山东地区抗日的八路军主力部队之一。1939年8月，为统一领导山东地区抗日武装力量，中共中央将第一一五师师部、教导大队及第三四三旅、山东与苏北地区地方武装整编，组建了八路军第一纵队。徐向前任司令员，朱瑞任政治委员。纵队在机构未健全的情况下，粉碎了日军对鲁中抗日根据地进行的第一次大规模“扫荡”。八路军第一纵队在山东沂蒙地区正式成立，后随即成立山东军政委员会，朱瑞任书记。同时，第一纵队所辖各部队，相继成立了鲁西行政主任公署和鲁西北、运东区、运西区、泰（山）西区、胶东北海区等行政督察专员公署，以及莱芜、新泰、蒙阴、沂水、临朐、东平、宁阳、平阴、泰安等县抗日民主政府。10月，第一纵队机关与山东纵队机关合并（保留山东纵队番号）。1940年6月，徐向前奉命返回延安，参加筹备党的七大，八路军山东纵队恢复建制。1941年1月，八路军第一纵队番号撤销。