唐朝中后期,原先临时性差遣性质的行军统帅制度,逐渐演变为固定常设性质的节镇制度,在
节度使下也设立了行军司马一职,作为节度使府的主要参佐之一。
行军司马事繁任重,“弼戎政,掌武事。居常习搜狩之礼,有役申战阵之法。凡军之攻,战之备,列于器械者,辨其贤良。凡军之材,食之用,颁于卒乘者,均其赐予。合其军书契之要,比其军符籍之伍,赏罚得议,号令得闻,三军以之,声气行之哉。虽主武,盖文之职也”。既协理军政戎务,练甲兵,修军备,预军机,掌军法,也掌管军资粮饷的分配。而唐朝后期,由于节度使的职权扩大,总揽辖区内的军民财政,作为重要佐属的行军司马,其职权也涉及到地方行政管理。
行军司马本属幕职,无品级,多以文士出任(如
韩愈),挂
御史台御史和
尚书省郎官衔,后又扩展到中书、门下两省
供奉官、秘书监、大理寺少卿等。其选任,或由节帅辟用,事后报朝廷批准,或由朝廷直接授任,以前者居多。
据《
资治通鉴·魏元帝咸熙元年》载,“(司马)昭自将大军从帝幸长安,以诸王公皆在邺,乃以
山涛为行军司马。”
胡三省注“行军司马之号始此”认为这是行军司马一职的开始。然而查得《
晋书·列传第十三》“(山涛)迁大将军从事中郎。钟会作乱于蜀,而文帝(
司马昭)将西征。时魏氏诸王公并在邺,帝谓涛曰:“西偏吾自了之,后事深以委卿。”以本官行军司马,给亲兵五百人,镇邺。”,可见原文是“以本官行军司马”,即让山涛以本官(大将军从事中郎)身份行“
军司马”(同为大将军佐属)之事,而非“行军司马”。“行军”二字置于“司马”之前,应当跟北周起至隋唐的行军统帅制度紧密相关。