神龙元年（705年），
唐中宗复辟，将
武则天迁居
上阳宫，并十日一去朝见。卢怀慎时任侍御史，进谏道：“昔日
汉高祖称帝后，五日朝见
太公一次，是因为他以布衣取天下，故将尊贵归于父亲。如今陛下遵循成法、继承
皇统，怎可效仿汉高祖？应天门离提象门不过二里，骑马不能成列，乘车不能并行，陛下屡经于此，万一有愚人犯驾，又该如何？臣认为应该将太后接到
内朝奉养，不劳陛下出入。”唐中宗不听。
景龙年间，卢怀慎改任右
御史台中丞，又上疏朝廷，评论时政得失。他主要提出三条主张：
1、诸州
都督、
刺史、
别驾、
长史、
司马、
畿县县令任职不满四年，不能迁官。政绩优异者，可加赐车马裘服，可提高俸禄官秩，可派使节慰问，可下诏书劝勉，需到有公缺之时再加以提拔。对于毫无政绩、贪婪暴虐者，则免官放归
乡里。
2、将员外官中有才能可以担任地方长官或高级
僚佐的官员，加以升迁外放，由朝廷核查政绩。年老有病不能任职者，一并停罢。
开元二年（714年），卢怀慎代理黄门监。当时，薛王
李业的舅父王仙童侵凌百姓，遭到御史弹劾。李业为他向皇帝求情，唐玄宗便命中书门下进行复审。卢怀慎与
中书令姚崇奏道：“王仙童的罪状清楚明白，御史的弹劾并无冤枉之处，不能对他放纵宽宥。”唐玄宗遂命结案，从此
皇亲国戚都收敛气焰。
开元三年（715年），卢怀慎被正式拜为黄门监，并兼任吏部
尚书。当时，
姚崇因儿子去世，告假十余天，以致政务堆积如山。卢怀慎对此无从决断，惶恐不已，向玄宗请罪。唐玄宗道：“朕将天下之事委付姚崇，只是想让您对雅士俗人起镇抚作用。”
开元四年（716年），卢怀慎病重，上表乞归骸骨，请求退休，得到唐玄宗的批准。同年十一月，卢怀慎病逝，并上遗表，向唐玄宗推荐
宋璟、李杰、
李朝隐、
卢从愿。唐玄宗感叹不已，追赠卢怀慎为
荆州大都督，谥号文成。
开元六年（718年），唐玄宗在打猎时，途遇卢怀慎的家人在进行
大祥祭祀（去世两周年举行的祭礼），便赏赐
缣帛等物，停止打猎，停在卢怀慎的墓前停马注视，泫然流泪，让
中书侍郎苏颋草拟碑文，并亲自书写，又命官府为其立碑。
开元年间，卢怀慎与姚崇一同拜相。他认为自己的为政之道不如姚崇，每遇大事都推给姚崇处理。时人都称卢怀慎为
伴食宰相，讥讽他只吃饭不办事。后人便用“伴食宰相”比喻碌碌无为的官员。
刘昫：⑴怀慎清俭，不营产业，器用服饰，无金玉绮文之丽。所得禄俸，皆随时分散，而家无余蓄，妻子匮乏。⑵魏知古、卢怀慎、
源乾曜、
李元纮、
杜暹、韩休、
裴耀卿，悉蕴器能，咸居
宰辅。或心存
启沃，或志在荐贤，或出爱子为外官，或止屯田于
关辅，或不受
蕃人之赂，或坚劾伯献之奸，或广
漕渠以充国用：此皆立事立功，有足嘉尚者也。卢、李、杜三君子，又以清白垂美简书，
公孙弘之流也。
司马光：昔鲍叔之于
管仲，
子皮之于子产，皆位居其上，能知其贤而下之，授以国政；
孔子美之。
曹参自谓不及
萧何，一遵其法，无所变更；汉业以成。夫不肖用事，为其僚者，爱身保禄而从之，不顾国家之安危，是诚罪人也。贤智用事，为其僚者，愚惑以乱其治，专固以分其权，媢嫉以毁其功，愎戾以窃其名，是亦罪人也。崇，唐之贤相，怀慎与之同心戮力，以济明皇太平之政，夫何罪哉！《
秦誓》曰：“如有一介臣，断断猗，无它技；其心休休焉，其如有容；人之有技，若己有之，人之彦圣，其心好之，不啻如自其口出，是能容之，以保我子孙黎民，亦职有利哉。”怀慎之谓矣。
王夫之：开元之世，以清贞位宰相者三：宋璟清而劲，卢怀慎清而慎，张九龄清而和，远声色，绝货利，卓然立于有唐三百余年之中，而朝廷乃知有廉耻，天下乃藉以又安，开元之盛，汉、宋莫及焉。
《
全唐文》收录其奏疏九篇：《谏十日一朝西宫表》、《遗表》、《请毁河桥奏》、《请按王仙童奏》、《诏赠
崔湜父官奏》、《陈时政得失疏》（三篇）、《夏州加兵议》。