中国人民解放军第二十集团军的前身是坚持南方
三年游击战争的红军
闽东独立师。
抗日战争爆发后改编为
新四军第3支队第6团，又先后编入江南指挥部和苏北指挥部。1941年1月“
皖南事变”后，编为
新四军第1师，师长
粟裕，政委
刘炎。
1945年11月10日，从苏浙皖边奉命北撤的新四军苏浙军区第2、第4纵队和
苏中军区教导旅在江苏省涟水组成新四军第1纵队。苏浙军区第4纵队改编为第1旅，苏中军区教导旅改编为第2旅，苏浙军区第2纵队改编为第3旅，共2.2万余人。纵队成立后，奉命调赴东北，进至
胶济铁路（青岛―济南）附近后，改属津浦前线指挥部领导，参加
津浦路阻击战。
1946年1月改称
山东野战军第1纵队，
叶飞任司令员，
赖传珠任政治委员，
谭启龙任副政治委员兼政治部主任，
贺敏学任参谋长。6月收复泰安、大汶口。7月，和
鲁中军区部队一起，在胶济路西段参加对国民党军的自卫反击作战。后移师鲁南。12月参加
宿北战役。
1947年1月参加
鲁南战役。1947年2月，山东野战军第1纵队改称
华东野战军第1纵队。
叶飞任司令员兼政治委员（后谭启龙任政治委员），
何克希任副司令员，谭启龙任副政治委员（后陈时夫），
张翼翔任参谋长（后任副司令员兼参谋长），
汤光恢任政治部主任。第1、第2、第3旅依次改称第1、第2、第3师，同时辖由
中原突围至华东的
中原军区第1纵队第1旅改编的独立师，共2.3万余人。2月参加
莱芜战役。5月在
孟良崮战役中担任穿插分割任务，为全歼国民党军整编第74师作出了贡献。6月底出击鲁南，连克费县、峄县（今枣庄市峄城区）、枣庄，后转战于鲁西南地区。9月下旬进军
豫皖苏边区，攻克尉氏、鄢陵、逍遥镇等城镇。10月北上定陶地区休整。11月参加
陇海路破击战，破击砀山至黄口段铁路。12月挥师西向，解放永城、涡阳、亳县（今亳州）、柘城等地。12月底，独立师改归
晋冀鲁豫军区建制。
1948年3～4月，第1纵队在豫北濮阳进行新式整军。6月参加
豫东战役。9月在
济南战役中，和兄弟部队一起在鲁南地区担任阻援，保障攻济作战。同年冬参加
淮海战役，先在窑湾地区作战，继而参加阻援，保障兄弟部队围歼
黄维兵团，后又参加围歼
杜聿明集团的作战。
1949年2月，根据中央军委关于统一全军编制及部队番号的命令，华东野战军第1纵队改称中国人民解放军第二十军，隶属
第三野战军第9兵团。
刘飞任军长，
陈时夫任政治委员（后
张震球、
王一平），张翼翔任副军长（后任军长），汤光恢任副政治委员兼政治部主任（后
谭佑铭任
政治部主任），
廖政国任参谋长（后
冯鼎三）。第1、第2、第3师依次改编为第58、第59、第60师，全军共3.2万人。4～5月参加
渡江战役，在解放上海的作战中，攻占平湖、金山卫，从
龙华攻入上海市区。而后，担负上海市的警卫任务。
1950年2月，第30军第89师归第二十军建制。1951年11月，第二十军编为
中国人民志愿军第二十军，参加
抗美援朝战争。
朝鲜战争爆发后，第二十军于1950年11月在军长兼政委张翼翔率领下入朝参战。在
长津湖战役，第58师172团3连连长
杨根思率领一个排坚守小高岭阵地，顽强阻击敌军的冲击，最后与敌同归于尽，追授
特级战斗英雄称号，并被授予“朝鲜民主主义人民共和国英雄”称号。
1952年10月第二十军回国，驻防浙江湖州，隶属
华东军区。1955年1月，第60师与华东军区海、空军共同参加
解放一江山岛战斗，这是解放军历史上第一次三军协同作战的战斗。同年，改属
南京军区。
1967年8月，第二十军军部移防杭州，执行“
三支两军”任务。1975年7月，第二十军与济南军区的第1军对调驻地，移驻河南省开封市。1979年，58师参加了中越战争。
1985年，第二十军改编成第二十集团军，辖58师、60师和原43军的128师，以及坦克十一师、炮兵旅和高炮旅（59师改编）。1989年，58师和128师至北京参与戒严任务。