河南省档案馆于1999年12月被
国家档案局评为国家一级档案馆，是省级爱国主义教育基地、省政府政务信息公开场所。
河南省档案馆成立于1959年2月24日，归属河南省档案管理局领导。1968年1月，河南省档案管理局撤销。1979年11月，河南省档案局和河南省档案馆恢复，为中共河南省委和河南省人民政府的直属机构，局馆合署办公，一个机构两块牌子，机构规格为正厅级。1983年机构改革时，
河南省档案局列入
河南省人民政府编制序列，河南省档案馆改为河南省档案局领导下的事业单位。2000年机构改革时，河南省档案局与河南省档案馆合并，一个机构两块牌子，为中共河南省委、河南省人民政府的
直属事业单位。
2019年机构改革时，河南省档案馆明确为中共河南省委直属公益
一类事业单位，机构规格为正厅级，履行省级档案收集、保管、利用、编研、展览和数字化等职能。内设机构有办公室、接收征集处（河南省重大活动档案管理办公室）、保管利用处（整理鉴定处）、科研技术处、电子档案处、编研展览处、安全保障处、人事处（机关党委）、离退休干部工作处。
省档案馆现址在河南省郑州市金水路17号院，馆库建筑面积1.4万平方米，主楼一栋，配楼两栋。河南省档案馆新馆总建筑面积38620㎡，总用地面积46027㎡，位于河南省郑州市郑东新区明理路与邢庄北街交叉口。
河南省档案馆馆藏全宗357个，馆藏档案资料97万卷（件、册），档案最早为明正统三年（1438年），资料最早为清康熙34年（1695年）。这批档案资料比较系统全面真实地反映了近现代河南社会经济的历史变迁，对于了解河南、研究河南、建设河南具有重要的鉴史明今的作用。