中国人民解放军训练总监部成立于1955年4月。1954年11月，
中华人民共和国全国人民代表大会常务委员会第二次会议决定成立解放军训练总监部，统管全军的军事训练和院校工作，1955年4月正式成立。此时，解放军总部体制进行重大改革，原有的三总部改建为八总部。训练总监部在八大总部序列之中排第二，仅次于总参谋部，高于总政治部。
1955年4月22日，中央军委批准成立中国人民解放军训练总监部。该部的基础是总参谋部军事训练部、军事学校管理部和军事出版局，部长为刘伯承（未到职，由叶剑英代理），副部长为张宗逊、萧克、李达、彭绍辉、周士第、郭天民。训练总监部下设计划和监察部、陆军战斗训练部、军事学院和学校部、军事科学和条令部、军外训练部（负责学生军训）、军事出版部、体育训练局、战斗训练物资保障局、战斗训练杂志社等机构。训练总监部的职责是负责全军军事训练、全军军事院校的军事教育和研究整理全军各个历史时期的作战经验。1957年11月6日，萧克任训练总监部部长。训练总监部成立后，在建立和健全全军正规的训练制度，加强院校建设，组织领导全军加强基础训练、开展战斗训练和进行协同作战演习，提高部队原子、化学条件下的协同作战能力等方面，取得了显著成绩。1958年12月11日，训练总监部撤销，所属各部局整编为军事训练部、学校管理部、出版部，纳入总参谋部建制。