东晋成帝咸康元年（335年），前凉王张骏筑湟河城，置湟河郡，治今青海化隆县群科镇日兰古城，属凉州。东晋孝武帝太元元年（376年），前凉亡，湟河郡归前秦氏族政权。太元十年（385年），吕光在姑臧（今甘肃武威市）建后凉王国，湟河郡属后凉。东晋安帝隆安二年（398年），河西鲜卑秃发乌孤占领青海东部，建南凉王国，湟河郡属南凉。安帝义熙九年（413年），沮渠蒙逊的北凉占领湟河郡。义熙十一年（415年），鲜卑乞伏氏的西秦军队攻陷湟河郡。北周属鄯州。隋开皇三年（583）废。