1896年和1898年（清光绪二十二年和二十四年），沙俄诱迫清政府订立《中俄密约》和《旅大租地条约》，攫取了在中国
东北境内修筑和经营铁路的权利。中东铁路（又称东省铁路）干线西起满洲里，中经哈尔滨，东抵绥芬河；支线由哈尔滨经长春、沈阳直至旅顺口，全长2489．2公里（
日俄战争后，按照《
朴茨茅斯条约》规定，俄国将长春至旅顺口的铁路让给日本，称“南满铁路”）。帝俄根据《中俄合办东省铁路合同章程》的有关条款，在修筑和经营铁路过程中任意侵占铁路沿线的土地，形成“铁路附属地”。中东铁路全线通车后，帝俄在吉林省滨江县哈尔滨屯设立
中东铁路管理局，除经营管理铁路外，还在铁路沿线和哈尔滨等许多大小城镇拥有行政、司法等自治权力，不受中国地方政权管辖。
中华民国成立后，从1917年起，中国政府逐渐收回对中东铁路“附属地”的管辖权，吉林、黑龙江两省派兵陆续在哈尔滨及中东铁路沿线布防，并成立中东铁路警备司令部。1919年7月，撤销临时警备司令部，改设中东铁路护路军总司令部，同时设立哈长、哈满、哈绥三个分司令部。1920年3月，
中东铁路工人大罢工取得胜利，中国军队解除了哈埠及铁路沿线俄军武装，接管了路务。同年10月31日，北京政府颁布《东省特别区法院编制条例》，规定中东铁路附属地改称东省特别区。1921年2月5日，成立东省特别区哈尔滨市政管理局，掌管中东铁路沿线各地市政。1922年2月28日，中苏议定《中东铁路大纲》，规定中东铁路由中国政府特设机构管理。同年11月24日，东三省保安总司令部宣布，中东铁路沿线11公里以内区域，划为东省特别区，设东省特别区行政长官，所有特别区内之军警、外交、行政、司法各机关均归护路军总司令兼东省特别区行政长官监督节制；12月8日，北京政府公布《东省特别区行政长官办事条例大纲》，1923年3月1日于哈尔滨正式成立东省特别区行政长官公署。同年3月15日，
东省特别区行政长官公署决定，将中东铁路沿线各铁路交涉分局改为市政分局，自4月1日起实行市政分局办事章程。沿线市政分局有长春、张家湾（今吉林省德惠）、一面坡、横道河子、穆棱（今穆棱镇）、绥芬河、满沟（今肇东）、安达、昂昂溪、扎兰屯、
博克图、海拉尔、满洲里等。1924年5月，中央政府批准东省特别区独立于吉林、黑龙江两省区域之外，成为与省并行的
特别行政区。东北沦陷初期，伪满仍沿用东省特别区称谓，1933年7月1日改称“北满特别区”，管辖西起满洲里中经哈尔滨东到绥芬河，以及哈尔滨至长春原中东铁路沿线一带地方（不含哈尔滨市）。总面积1017．3平方公里，人口185295人。1935年12月，
伪满决定废止北满特别区，将其原辖区域（除满洲里、海拉尔市外）分别划归邻接市、县、旗。1936年1月1日，北满特别区正式撤销。
1920年3月，仍然控制中东铁路的白匪头子霍尔瓦特被赶下台以后，中国政府逐步收回了一些前俄国在中东铁路附属地内非法侵占的中国主权。同年9月23日，
北京政府以大
总统东省特别区行政长官，东省特别区最高行政长官。1922年张作霖划中东路沿线为特别区域，以朱庆澜为首任行政长官，所有区内军警、外交、行政、司法各机关统归管辖。下设滨江警察厅、路警处、警察总管理处，以及吉、黑两省铁路交涉局等，行政长官公署内设十处，分掌职事。1924年，区行政长官改由大总统任命。其职权为：处理区内行政事务，发布单行章程，监督、奖惩、任免区内官吏，遇非常事变，得咨请邻近军队长官，会同处理。
东省特别区行政长官公署下属警察总管理处，路警处和市政管理局。1923年8月1日设东省特别区地亩管理局，1926年8月设东省特别区教育局(次年改为教育厅)。将哈尔滨的广益中学、东华中学、普育中学和从德女子中学收归东省特别区教育局管理，改称东省特别区第一、二、三中学和第一女子中学。东省特别区一直存在到1932年
伪满洲国成立，其后，日伪当局将其改称为北满特别区。1935年3月23日，苏联将中东铁路卖给日伪政权，北满特别区遂即撤销。
1923年3月1日于哈尔滨设立东省特别区行政长官公署，1932年3月14日更名东省特别区长官公署。满洲国时期，1935年6月21日改为北满特别区公署，同年年底裁撤。首长称行政长官，掌理全区政务，负责军政、公安、司法、外交等行政事务，发布命令、制定特区内的法规、任免官员、管理军警。
公署内设秘书、政务厅，厅下设总务科、内务科、教育科、实业科、承宣处、电务处。公署下辖东省特区地亩管理局、市政管理局、铁路路警处、特区警察总管理处、哈尔滨交涉署、呼伦贝尔交涉局、吉林铁路交涉局、黑龙江铁路交涉局等。