武后当权时，下诏让他入仕，但武平一怕卷入是非而遭祸一直不敢去，隐居在嵩山修浮屠法。中宗复位后，武平一虽仍在服母丧，但仍被诏令为起居舍人，景龙二年（708年）兼修文馆直学士，因博学通古而被中宗喜欢，不久又担任考功员外郎。
武平一对武氏一族卷入宫廷内外的争斗十分担忧，景龙二年他上书请求抑损自家（即武家）的权宠，但中宗没有答应。景龙三年九月，面对“太平、安乐公主各树朋党，更相谮毁”的混乱局面，中宗问策于他，武平一谏道“宜深加诲谕，斥逐奸险”“抑慈存严，示以知禁，无令积恶”，中宗感念他的忠切，赏赐于他，但仍未依言而行。
唐玄宗登基后不久，武平一被贬为苏州参军，后又任金坛令。虽然被贬，但武平一“既谪而名不衰”，当时王湾、祖咏、储光羲等诗人游历吴地，均留诗相赠。
武平一这一首有名的五排，其妙处在于，诗人以雄劲的笔触，描写幸韦嗣立山庄的艺术概括。他通过对于时间和空间的意匠经营，以及把写景、叙事、抒情与议论紧密结合，在诗里熔铸了丰富复杂的思想感情，使诗的意境雄浑深远，既激动人心，又耐人寻味。