公元919年萨克森王朝的建立，标志着德意志国家历史的开端，但在整个神圣罗马帝国时期，德意志基本上是诸侯割据或松散联合的局面。帝国虽有全国性机关，但没有统一的档案库房，国会和最高法院等都自行保管档案。

公元 919年萨克森王朝的建立，标志着德意志国家历史的开端，但在整个神圣罗马帝国时期，德意志基本上是诸侯割据或松散联合的局面。帝国虽有全国性机关，但没有统一的档案库房，国会和最高法院等都自行保管档案；帝国本身的档案长期没有固定的保管地点，到哈布斯堡王朝时与奥地利的档案合并,存维也纳。帝国、国会和最高法院的档案后多次散失,所余已为数不多,长期分散在许多德国城市。各诸侯国自霍亨施陶芬王朝(1138～1254)时实行公文登记后,都逐步成立了各自的国家档案馆，保管有3类档案：王朝档案、国家档案(主要是外交档案)和内政档案。前两类档案较受重视,按事由原则分类整理并编有目录。

19世纪上半叶，由于资本主义的发展和受法国档案改革影响，各诸侯国档案工作有较大进展，其中以普鲁士、巴伐利亚和萨克森具有代表性。普鲁士建立了省档案馆体系,1831年设立档案管理局领导档案馆工作,并从1887年起出版多卷集<普鲁士国家档案馆文件>，1900年起出版定期刊物<普鲁士档案管理局公报>。普鲁士还有两个中央级档案馆:①普鲁士国家机密档案馆。该馆16世纪末叶即已存在,因属国家机密办公厅而得名。1881年该馆正式采用登记室原则(见来源原则)整理档案。②普鲁士和勃兰登堡王朝档案馆。巴伐利亚的档案工作水平本来就高于其他诸侯国，19世纪后对部分重要档案实行了集中化管理，建立了帝国档案馆和国家民族档案馆。1881年创刊的《档案杂志》流传颇广。萨克森于1832年在德累斯顿成立国家档案馆，集中了内政、外交和王朝档案，以及地方档案馆的古老文件。还形成了与国家档案馆相联系的省档案馆网。其他较大诸侯国如符滕堡、巴登、黑森等也都在国家档案馆集中了过去遗留下来的大部分档案。但档案的集中化管理只限于部分政府机关,私人，教会和城市档案馆等不受政府控制。这个时期，档案文献公布工作得到广泛开展，著名出版物有《德国历史文献》、《巴伐利亚文献》等。

1871年成立的德意志帝国仍是由许多邦和自由市组成的联盟，到第一次世界大战结束，全国性的中央档案馆一直未能建立起来。20世纪初德国首先出现经济档案馆，这是随着垄断企业的出现，为其提供管理情报而产生的。其中有克虏伯经济档案馆(1905)、莱茵－威斯特伐利亚经济档案馆(1906)、西南经济档案馆(1906)、西门子经济档案馆(1907)、汉堡世界经济档案馆(1908)等。

第一次世界大战后，德国为收集保管具有全德意义的档案，尤其为保管和整理大战期间形成的大量军事文件，于1920年在波茨坦成立全国性的帝国档案馆。该馆后来也接收国会和中央机关的档案。各邦的档案事业也有所发展，但由于没有全国性的档案行政管理机构，各邦档案馆通过每年召开的档案大会保持联系。到1933年前，德国档案事业虽然一直处于分散状态，以致各地档案管理工作缺乏统一原则和领导，但其水平与其他西方国家相比仍是比较高的。如专业教育方面，1894年成立的马尔堡档案学院在欧洲占有重要地位，培养了许多档案专业人才;德国档案学家对创建和发展档案学理论,更是作出了突出贡献。

1933年法西斯窃取政权后，其走卒进入档案馆，把档案馆变成希特勒国家机器的组成部分，从事种族属性和政治“可靠性”的查询,伪造历史和煽动战争狂热。1936年建立隶属总参谋部的军事档案管理局，领导一个军事档案馆网，包括中央军事档案馆和设在波茨坦、慕尼黑、斯图加特和德累斯顿的4个军事档案馆;占领奥地利、捷克斯洛伐克和波兰后，又把这些国家的军事档案馆纳入馆网。在第二次世界大战期间，法西斯大肆掠夺和焚毁别国的档案，仅罗森堡特遣支队总部在巴伐利亚仓库所存他国档案和文物就达60列火车之多；在意大利则焚毁了大批意大利珍贵档案，包括古代那不勒斯安茹王朝的5.4万件羊皮档案。 法西斯在战败前曾大规模销毁档案材料，以掩盖其罪行。战争结束后，苏、美、英、法搬走了几乎全部德国档案，后分别归还给德意志联邦共和国和德意志民主共和国，但在归还前大都拍了缩微副本并不加限制地提供利用。

联邦德国的档案事业联邦德国是在美、英的扶持下建立的，其档案事业管理体制也仿效美、英，没有全国统一的档案行政管理机构，中央和地方档案馆亦无隶属关系，各自为政。

中央级的国家档案馆是联邦档案馆，1952年在科布伦茨建立，受联邦政府内务部领导，负责接收和保管联邦政府机关的档案以及德国历史档案。该馆从1972年起设立联邦文件中心，负责保管联邦政府除国防部、外交部外中央各机关的全部文件，经鉴定后每年约五分之一的案卷向联邦档案馆移交永久保存。1984年新的联邦档案馆大楼落成，占地面积38650平方米，库房面积15000平方米，配有各种现代化设备。联邦级档案馆还有联邦影片档案馆和外交部政治档案馆，后者所藏档案主要供政府使用。

德国统一社会党在马列主义研究院设有党中央档案馆，负责保管1946年以前德国共产党和工人阶级其他组织的档案，以及1946年以后统一社会党的档案。

民主德国重视档案专业教育。柏林洪堡大学哲学系历史专业下附设档案学院，负责培养高级档案员，即正规档案员；波茨坦档案学校负责培养中级档案员，即国家认可的档案员。民主德国1965年出版的《褐皮书》,列举了1800名纳粹分子和战犯的档案材料，引人注意。

联邦德国和民主德国都是国际档案理事会会员，积极参加国际档案活动。1990年10月3日两德实现统一,从而开始了德国档案事业发展的新阶段。