档案馆成立于2001年10月，为正处级建制。现有工作人员17人，其中，副高级以上职称13人，中级职称2人,本科以上学历15人，大专学历2人。档案馆下设文书档案室、科技档案室、人事档案室和校史馆（副处级建制）。同时，目前全校有档案立卷单位83个，在校档案馆的统一管理下，负责本单位档案的收集、整理、立卷、归档工作。
馆址主要位于新行政办公楼四、五两层东半部，库房面积930㎡，校史展厅面积595㎡。现有馆藏档案81000余卷(件)，保存8个全宗和建校以来的党群、行政、教学、科研、人事、财会、设备、基建、外事、出版、声像等11个类别的档案。这些档案真实记录了河大创建、变迁、发展和建设的百年历史。8个全宗分别为：国立河南大学全宗（解放前部分）、女子师范学校全宗、郑州艺术学院全宗、河南开封高中全宗、开封师范学校全宗、（原）开封高等
师范专科学校全宗、开封高等医学专科学校全宗、（新）开封高等师范专科学校全宗。
根据国家有关法律、法规和上级有关文件精神，结合新形势对档案工作的要求，档案馆重新制定和修订了一系列规章制度。这些制度有：《河南大学档案工作业务建设规范》、《河南大学档案馆查阅利用制度》、《河南大学档案统计制度》、《河南大学档案鉴定、销毁制度》、《河南大学档案管理制度》、《河南大学档案立卷归档制度》、《河南大学档案保密制度》、《河南大学档案馆馆长、副馆长岗位职责》、《河南大学档案馆各科室岗位责任制》、《河南大学档案馆工作人员岗位职责》、《河南大学校史编写规范》等。
在学校领导的支持下，档案馆的基本设施建设得到了很大改善。增加了库房面积，购置了数百组档案柜、陈列柜。根据档案管理工作的需要和现代化管理的要求，逐步添置了不少仪器设备，如计算机、除湿机、复印机、传真机、打印机、刻录机、空调器、吸尘器等。为加快档案信息化建设的步伐，近年来学校设立专项经费，为档案机构配置档案管理现代化、档案信息化所需的设备设施，先后添置了
高速扫描仪、服务器、数字照相机等设备，2009年引进专业的适合高校档案管理工作的计算机软件——南大之星档案管理系统,对档案管理现代化水平的提高起到了很好的促进作用。从2010年起开始建立计算机管理数据库，把重要的和常用的档案信息数字化。2007年与我校计算机与信息工程学院合作，开发了
人事档案管理系统。2010年还建立了档案馆网站，以主页方式提供相关档案服务和开展档案宣传。
档案馆利用自己的馆藏资料，编辑出版了《历届毕业生名录》，参与了《
河南大学校史》的编写工作,还编写出版了一批高水平的编研成果。近几年出版了一批论文和专著，如专著《黉宫圣殿——河南大学近代建筑群》、《河南大学抗日流亡办学纪实》、《河南大学校园百年建设史》等都在学校和社会上引起较大反响。
在学校领导的重视和全校教职员工的支持下，河南大学档案馆将与时俱进，开拓创新，全面贯彻落实教育部27号令,在校长和分管校领导领导下，以服务学校中心工作为主导,以信息化建设为抓手, 以档案资源体系和档案利用体系建设为重心,依托学校良好的科教人文条件，有序开展收集、管理和利用等各项业务工作，加大开放开发力度，建设数字档案馆，优化档案资源整合利用和共享环境，着力开展校史编辑和研究，促进学校档案事业又好又快发展，为学校创建高水平大学做出应有贡献。