卫次公自幼谦和文雅,于唐代宗大历十三年(778年)中进士,初仕崇文馆校书郎,改渭南(今陕西)尉。后入山南西道(今陕西汉中)幕府。贞元八年(792年),入朝任左补阙兼翰林学士。
贞元二十一年(805年)正月,唐德宗驾崩,卫次公参与拥立
唐顺宗。顺宗即位后,卫次公以原职兼任
知制诰及礼部贡举,又拜
中书舍人。
元和六年(811年),出任陕虢(今河南陕县)都防御
观察处置使。卫次公任观察使的陕、虢地区为当时南来北往,东去西上的交通枢纽,这样,该地区因应酬的需要,额外赋敛很多。卫次公到任后每年蠲免租赋钱300万贯,大大减轻了当地人民的负担。后入朝任兵部侍郎、尚书右丞等职。
卫次公任兵部侍郎时,官多职位少,补投实职不易。当时待补的官员中有唐初名将李绩之孙和武则天时敢于同酷吏斗争的大理卿徐有功之孙,卫次公得知后召见了他们,并因他们祖先有功于国,破格提前派了实职。
卫次公任尚书左丞时,值唐宪宗大举出兵讨伐
吴元济,因历时长久,卫次公奏请唐宪宗罢兵。本来唐宪宗要起用卫次公为宰相,并已下了委任诏书,结果卫次公上疏后,讨伐吴元济的捷书也至,于是唐宪宗将委任卫次公的诏书追还,改任他为
淮南节度使、工部尚书兼扬州大都督府长史、御史大夫。
刘昫:①卫次公、郑絪、韦处厚、崔群、路随等,皆以文学饰身,致位崇极。兼之忠谠,垂名简书,兹实有足多也。……次公因献捷之书,辍已成之诏,命也夫。②卫、郑、韦、路,兼之博陵。文学政事,为时所称。