合肥联合大学始建于1980年，在当时新中国放射化学奠基人杨承宗先生倡导下，当时由中国科学技术大学、合肥工业大学、安徽大学共建合肥联合大学，实行“适当收费、不包分配、按社会需求设置专业、后勤社会化”的办学模式，在中国高等教育改革方面发挥了引领探索作用，是新中国第一所自费走读大学，被誉为中国高等教育改革的“小岗村”，是合肥大学第一次引领国内高等教育改革的重大创举。学校被誉为地方院校第一方阵的排头兵。

“文化大革命”结束后，1978年，杨承宗被任命为中国科技大学副校长。后来他又担任安徽省第六、七届人大常委会副主任，省科协主席。在此期间，他创办了合肥联合大学——建国后第一所自费走读大学。这是他晚年集中一生作为教育家和科学家两方面的经验和智慧，办成的最后一件大事。这创举的智慧火花来自于不经意中听到的同事之间的一段对话。1979年8月，在安徽省高教局召开的一次会议上，科大参加会议的几位同事在中午休息聊天时，有几句话飘进了杨承宗的耳朵。有人问：“你的孩子今年考上大学了吗?”回答是：“咳！别提了，只差0.2分。”杨承宗的心久久不能平静：高考择优录取这条很好，但能精确到0.2分吗？他做了一番调查，不同的老师评卷差个几分，非常正常。

“文化大革命”后，累积了多年的中学毕业生同时进入高考场地，千军万马过独木桥，某些好马失蹄也是常有的事情，至于考生因在不同省、市而高分落榜低分被录取更比比皆是。他不由得萌发出一个设想：能不能给那些分数接近高考录取线的学生提供一个深造的机会呢？1980年3月他参加全国科协大会时，听胡耀邦讲，全国有1600万失学青年怎么办？这更激起他探索高等教育改革的热情。1980年6月13日，方毅副总理视察安徽，并在中国科技大学全体师生职工大会上发表了讲话，他说：“我们需要千方百计地实验和探讨改革的途径，创造多种多样的办学形式和办法，广开学路。”对此格外敏感的杨承宗深受鼓舞：与其抱残守缺，何不独辟蹊径？遂正式提出了在不增加国家负担的前提下，综合利用合肥地区高等学校的师资、设备优势，创办一所自费走读大学的设想。

1980年6月23日，《光明日报》记者胡羊首次独家报道了杨承宗先生关于招收自费大学生的主张。文章见报后，读者纷纷来信，更有一群教育志士积极拥护该项主张。真是“一呼百应”！同年7月，关于成立一所民办公助的自费大学的议题摆到了省领导的办公桌上。8月，省政府批准成立这所大学。但让杨承宗意想不到的是，省领导请他出任校长。他一再推辞，毕竟已是年近古稀，而且很多人不知道的是，当时他的双目几近失明，妻子从北京搬到合肥后就一直重病缠身。但省领导以那些被高考分数拒之门外的学生之名再三诚恳邀请时，他最终被打动了。他所做的第一件事，是确定校名，当时提议的校名有“安徽自立大学”、“星津大学”、“江淮大学”等等。抗战时期有个“西南联大”，由清华、北大、南开三所大学合办而成，办学效果很好。这个也叫联大，体现联合办学的精神。

1980年8月23日，合肥联合大学正式成立，全部的家当就是从科大借来的一间20平米的房间、几张办公桌、包括杨承宗在内的6名兼职人员。杨承宗再一次表现出独树一帜、锐意创新的精神，实行了一系列的高等教育改革：学校实行董事会领导下的校长负责制，由合肥市委书记郑锐兼任董事长，这是对当时处于主导地位的党委领导下的校长负责制的一种创新；没有校园校舍，所有教学都是“联办”，插在科大、合肥工业大学、安徽大学等的教学空档中完成；没有固定的师资队伍，所有的教师都是从合肥地区12所高校中择优聘用，并邀请国内外著名科学家、学者如任之恭、钱致榕、龚升、杨纪珂等来校讲学，体现了“所谓大学者，非谓有大楼之谓也，有大师之谓也”的教育思想；学生全部“走读”、自主择业，改变了当时普通大学包吃、包住、包分配的做法，甩掉了沉重的后勤包袱；国家部分拨款，“适当”收费，每年文科40元、理科50元，改变了建国以来中国高等教育由国家单一投资的体制；倡导公民享受高等教育、大众化教育理念，一改高等教育只注重选拔尖子的宗旨。上述高等教育思想和办学理念，在改革开放30周年的今天，很多已经得到普遍认同和实践。

合肥联合大学“联办公助，自费走读，不包分配，择优录用”的办学模式，在当年是中国高等教育制度的一种创新。《人民日报》、《光明日报》、《安徽日报》、《中国教育报》、《中国青年报》、《文汇报》等先后多次详细报道，在国内外产生了一定的知名度。继合肥联合大学创办之后，北京、上海、南京、西安、广州、杭州等地也相继成立类似的大学，有些直接套用了“联大”的名字，有些名字虽然不同，但办学宗旨、教学形式基本相同，如北京联合大学、南京金陵大学、武汉江汉大学、上海大学等。当时全国有许多城市和教育部门的领导来合肥联合大学参观访问，杨承宗还专门抽调人员接待来访。

1984 年初，安徽省烟草公司与合肥联合大学达成联合创办“合肥联大烟草学院”的协议，并报请省人民政府批准。

1984年5 月23 日，省人民政府批复同意安徽省烟草公司与合肥联合大学筹办合肥联大烟草分校。

2002年，合肥联合大学合并合肥教育学院、合肥师范学校并组建合肥学院

2009 年，学校被安徽省批准为硕士点建设单位。

2009年底，中国教育部主持的新一轮本科教学工作水平评估正式启动，选择在该校进行试评估。

2010年5月，第四届全国体育大会五人制足球、毽球、壁球、门球和金属地掷球五个球类项目的比赛将在该校举行。其中，比赛时间初步定为5人制足球（5月7日-13日）；门球（5月17日-19日）；壁球（5月17日-22日）；金属地掷球（5月18日-25日）；毽球（5月23日-25日）。