山名氏之始祖山名义范，为清和源氏八幡太郎义家流，新田义重之子。新田义重是足利氏之祖足利义康之兄，所以，新田所分出的新田、山名、里见诸家与足利氏是源氏的同族近支。义范生保延元年（1135），为新田义重长子，称新田太郎领有上野国多胡郡山名乡，又称：山名三郎。

作为八幡太郎义家之孙同时又是源氏一门的长老，新田义重一向自许为源氏之正统嫡流，并在上州保有强大的军力，治承四年（1180），源赖朝起兵之时，新田义重拒绝了赖朝的召唤，甚至一度在寺尾聚集兵力，企图与赖朝对抗。直到源赖朝被任命为征夷大将军开创了镰仓幕府之后，才臣服于赖朝之下。由于新田义重仍保有强大的实力，赖朝最终隐忍与之和解，并任命其为上野、越后守护，然而背地里赖朝始终怨恨义重不已。建仁二年（1202）义重去世之时，赖朝甚至故意举办盛大的猎鹿活动。

相比起父亲的失意而言，山名义范则成功得多。他在赖朝起兵之时与亲弟里见义俊（安房里见之祖）前往镰仓投奔赖朝。这种父子离别的事颇匪夷所思，但后世也不外乎两种猜测：

其一：山名义范与里见义俊两兄弟与父亲新田义重之间存在不和，故不服从父亲的指令。

其二：这是当时武士特有的保身之计，父子兄弟各投入对立的阵营，不管那一方失败都不会灭族.

而后山名义范作为赖朝旗下大将转战各地，在一之谷合战、坛浦之战中皆立下大功。文治元年（1185）三月，源氏在坛浦消灭平家，当年八月，论功行赏，山名义范作为源氏一族中的六名大功者之一，被推举为从五位下伊豆守（其余五人为大内惟义[相模守]、足利义兼[上总介]、加贺美远光[信浓守]、安田义资[越后守]以及源义经[伊予守]）。

后来，山名义范又随军参加了奥州征伐，建久四年（1193），源赖朝在新田城滞留时，义范但任供奉役，其后更是作为源赖朝亲信，两次护卫赖朝上洛。镰仓时代，山名氏一直是幕府的有力御家人。随着山名氏地位的上升，和新田氏本家长期以来受到打压，在新田义重去世之后，山名义范这一支一度成为清和源氏新田流的总领。