民国37年(1948)3月，国民党政府在阜阳设立的第十四绥靖区，是负责地方“清剿”和防区守备的军区性质的战时区划。国民党在山东、苏北“剿共”战场上失利以后，为了在黄淮平原阻击解放军，保障徐州“剿总”的安全，根据徐州“剿总”的建议，在阜阳设立了第十四绥靖区。

民国37年(1948)初，国民党军在山东、苏北“剿共”战场上节节失利，无奈只得退守至黄淮平原。徐州“剿总”感到末日来临，为保障侧翼安全，请求在阜阳设置军区以保右翼，形成掎角之势，牵制人民解放军主力南下，保障南京安全。于是国民党政府于1948年3月在阜阳设立了第14绥靖区，绥靖区是战区（军区）性质，领导机构为司令部，首长为国民党中将司令官李觉。司令部设机要室、总务处、第一处(人事)、第二处(特工)、第三处(作战)、第四处(后勤)、政治部和特务营，并在蚌埠设有留守处。绥靖区辖阜阳、蒙城、临泉、涡阳、太和、凤台、颍上、霍丘（今霍邱）等8个县，指挥协调的部队是驻守在阜阳城的新整编第74师。1947年5月16日，该师原师长张灵甫在山东临沂地区的孟良崮战役中战死，整编第74师被我人民解放军全歼，整建制取消。后来不久，由于第一、第二任军长（师长）俞济时（蒋介石的外甥）、王耀武（黄埔军校学生，蒋介石的嫡系）呼吁，经蒋介石核准，在后方又重建整编第七十四师及其所属三个整编旅，以黄埔四期军官、四方面军前参谋长邱维达为新师长，以孟良崮战役中因看守飞机场而侥幸逃脱的两个团和负伤治愈的原七十四师官兵为骨干，吸收新官兵补充足额。又用历年来保存在后方的武器配给部队，战斗力和武器装备在国民党军队中仍然稳居前席。74师58旅驻守阜阳城，57旅驻蒙城，与徐州形成联络和掎角之势。1948年3月底到4月3日，中国人民解放军第二野战部队围攻阜阳，发动“阜阳战役”，绥靖区和新74师驻阜官兵誓死固守，解放军强攻不克，于4月3日夜撤走。蒋介石获知消息大喜过望，命令舆论大肆宣传，吹嘘为“阜阳大捷”，国民政府军政部门大加表彰。并成立“阜阳行政长官公署”，任命李觉为公署主任。但是，随着桂系在国民党中的势力上升，与桂系早有宿仇、属于湘系的李觉很快遭到排挤，同年7月，绥靖区和长官公署都被撤销，并于1948年7月29日撤出阜阳城，土匪趁机大肆抢劫，解放军豫皖苏军区第四分区独立三团应阜城商民的邀请，于8月1日进驻阜阳，设阜阳城防司令部，镇压土匪，维持治安。至今阜阳以8月1日为解放庆祝日。