晋武帝太康九年（288年），分
义阳郡随县、
平林县置随郡，治
随县（今湖北省
随州市），属于郢州，以司马迈为
随郡王。刘宋下辖随阳、永阳、关西、西平林四县，属于雍州。
宋明帝泰始五年（469年）改为随阳郡。属于司州。南朝齐改名随郡。
宋文帝刘义隆第六子广陵王
刘诞、
宋顺帝弟
刘翙(huì)、
齐武帝萧赜第八子
萧子隆、齐和帝
萧宝融、南梁宗室
萧修均为
随郡王。南梁太清（549年），岳阳王
萧詧投降西魏，西魏设立
随州。历北周，
隋文帝杨坚之父
杨忠因为在随郡担任地方官，而被封为
随国公。
隋朝以此为号。隋文帝开皇三年（583年），废随郡。隋大业三年（607年）
隋炀帝改随州置
汉东郡，治随县(今湖北随州市)，辖境同随州。唐武德初复为随州。天宝元年(742年)又改汉东郡。乾元元年（758年）复为随州。宋代复设随州，属
京西南路襄阳府 。