据《南京民国建筑的故事》一书记载，中央军人监狱建于
1930年，又名“军政部军人监狱”、“中央海陆空军人监狱”，由国民政府军政部陆军署军法司设立和管辖。
中央军人监狱坐北朝南，平面呈正方形，长宽各约200米，四周筑有高达6.7米的围墙，围墙上设电网，围墙外挖有深沟，围墙内四角筑有岗楼，由荷枪实弹的军人24小时看守。
狱中还设有教诲室、刑讯室、
水牢、刑场，其中水牢内水深及腰，四周及头顶均为铁栅栏，被关押在这里的犯人，几天下来便皮肤溃烂。
1930年至1937年间，被囚禁在这里的重点看护“
政治犯”主要有
恽代英、
马克昌、
陶铸、
曹瑛、
惠浴宇、
刘顺元、
王鹤寿、
刘宁一、
肖桂昌等人。
中央军人监狱是民国南京四大监狱仅存的一座，但这座监狱的保存状况并不乐观。虽然在房子的入口处挂有“南京重要近现代建筑”的牌子，但很多玻璃已经破碎，不少支撑屋檐的木椽也已经脱落。