豫陕鄂军政
大学的前身是1947年8月陈谢兵团强渡黄河时，随军挺进豫西的陈谢兵团第四纵队随营学校。兵团渡河之后，开辟建立豫陕鄂解放区。解放战争的飞速发展，新区的迅猛扩大，要求及时培养大批军事、政治干部，以适应军队和新区政权建设的急需。在这样的形势下，以随营学校为基础招收一批新学员，于1947年11月5日在栾川县建立豫西军政干部学校，李静宜任校长。当时，学校没有固定校址，随部队活动于栾川、嵩县和伊阳一带。学员一边学习，一边协助部队剿匪、做群众工作。1948年1月至3月，豫西军政干部学校和在宝丰建立的五分区军政干部学校以及由戈果率领的鄂豫皖干部训练班，先后迁到鲁山县城。在军区统一领导下，三个学校合并改组，建立豫陕鄂军政大学，陆续招收一批新学员，于3月4日举行隆重的开学典礼。陈赓及张志强、张文峰在会上讲话。
1948年3月，豫陕鄂军政大学在河南省鲁山县城建立。此后，随着革命形势的发展，这个学校又先后改称中原军政大学、第二野战军军政大学、西南军区军政大学（
西南军政大学）、第二高级步兵学校、中国人民解放军军事工程学院（
中国人民解放军军事工程学院）。著名将领陈赓、
刘伯承、
贺龙、
余秋里、
刘华清等，曾先后担任该校的校长、政委、教育长、政治部主任等领导职务。
1948年8月15日，豫陕鄂军政大学迁入临汝县城汝阳中学院内。随着解放战争的飞速发展，解放区的不断扩大，军政建设和军队建设迫切需要大批军事和政工干部。1948年8月，
中共中央中原局、中原军区决定，将豫陕鄂军政大学改称中原军政大学，由中原军区直接领导，为地方和军队培养急需军政人才。同时决定，中原军区司令员刘伯承任校长兼政委，校址设在临汝县城汝阳中学院内。当时学校条件比较艰苦，没有固定的课本，采取集中上大课记笔记和分组讨论相结合的教学方式教学。第一期学员大多数是豫西各县青年学生和教师。虽然当时条件艰苦，但绝大多数学员表现很好，有不少人经过学习和锻炼成为军队和地方的骨干人才。
中原局、
中原军区领导十分关心中原军政大学的建设，多次亲自到学校作报告。1948年8月，中原局第二书记、第一副司令陈毅到军政大学作报告。他报告的主要内容，一是时势造英雄还是英雄造时势；二是第三次世界大战能不能打起来。针对“美国要出兵打中国，第三次世界大战要打起来”的谣言进行批驳。科学地分析第三次世界大战打不起来的原因，教育学员用马克思主义的立场观察世界，树立革命必胜的信心，最后，他鼓励学员“打到南京去，解放全中国”。
1948年10月17日，中原军区、中原野战军司令员刘伯承带着军政处长杨国宇和两位训练参谋乘车从军区驻地来到中原军政大学，向学员们作《目前形势和军大任务》的报告，主要讲军队正规化建设和三大民主等问题。第二天，在训练参谋的协助下，刘司令员亲自点验，从军大1100名学员中挑选精兵强将补充野战军主力。
1948年8月，中原军区第一副政委邓子恢也亲自到中原军政大学向学员作报告。中原军政大学在临汝期间，积极支持和配合中共临汝县委、县政府的重大行动，在维护社会治安、稳定秩序方面发挥了重大作用。军大配合县公安局消灭隐藏在县城里的几股残匪，稳定了县城的社会秩序，使县委、县政府的各项工作得以顺利开展，有力稳定了全县的社会秩序。军大培养了大批军事和政工干部，为临汝的政权建设做出重大贡献。
1949年5月4日，中原军区军政大学进驻
南京孝陵卫（今：南京理工大学），改称：
中国人民解放军第二野战军军事政治大学，6月
中旬正式开学招生，苏、沪、浙、皖等地一万余名青年入校学习。