隋唐时期北边是不安宁的。强大的突厥势力时常南下，威胁着中原王朝的安全。隋炀帝时，突厥被打败，分裂成东西两支，此后东突厥成为北方的主要威胁。为了加强对突厥的防御，隋文帝在幽州设立了总管府。

炀帝大败突厥后，北边压力减轻，一度撤销该总管府。隋末唐初，东突厥趁中原王朝战乱之机，东山再起，重新成为中原王朝的严重威胁，加以幽州附近常有因河北义军活动而构成的内部的威胁，于是唐高祖李渊在建唐之初便承隋制，在幽州设总管府，任已经归唐的罗艺为总管，管幽、易、平、檀、燕、北燕、营、辽8州。

北到长城，东至山海关，包括关外辽宁省南部地区，形成一条大致与长城平行的带状防御区。其辖区北到长城，东至山海关，包括关外辽宁省南部地区，形成一条大致与长城平行的带状防御区。唐政权对这一地区的控制力大大增强，但东突厥的威胁更严重了，遂提升了总管府的等级，扩大了它的管辖范围。武德七年改称幽州大都督府。武德八年，东突厥大军又南犯，深入到幽州西南面的定州(今河北定县)，唐高祖命太子李建成往幽州，秦王李世民往并州，坐镇御敌。武德九年，为不使地方权力过重，在不损害幽州地区防御能力的情况下，对幽州大都督府作了调整：改为中都督府，督管幽、易、景、瀛、东盐、沧、蒲、蠡、北义、燕、营、辽、平、檀、玄、北燕等17州。州数虽有减少，但仍包括当时河北的大半地方。贞观四年(630)，唐太宗一举讨平了东突厥，北方出现了一个较长的太平时期。与此相应，贞观八年。唐廷将幽州都督府的管州大大减少，仅剩幽、易、燕、北燕、平、檀6州，为入唐以来最少者。平静的局面维持了近40年便被东突厥的复兴打破了。高宗末年，东突厥再度兴起，幽州及河北其它地区时受侵扰。永淳元年(682)突厥骑兵南犯妫州(今北京延庆县)，垂拱元年(685)又进至昌平(今北京昌平县)。与此同时，居住在东北地区南部，日见强盛的奚、契丹，也伺机向唐王朝发难，则天后万岁通天元年(696)，契丹攻陷唐在东北地区的前哨阵地营州(今辽宁省锦州市西北的朝阳市)，进而威逼幽州，攻陷了幽州、冀州的许多城邑。此时幽州担负着两个方向的繁重防御任务。为了加强该地区的防御，唐廷相继派狄仁杰、唐休礨等重臣担任幽州都督，不惜工本地向那里转输粮秣、军需，同时扩大了幽州都督府的辖区和权限。其等级也终于在玄宗开元十三年(725)恢复为大都督府。景云二年(711)，改节度使府。