武山在历史上长期属于昌黎县境，新中国成立前后成为跨越
昌黎、
卢龙两县境界的一座山峦，山南为昌黎县地，东面和北面属卢龙县境。
武山之所以用“武”字冠名，据传是因早时有一个传称“武王”的人（一说其人姓武）在其地占山为王。另据旧版县志记载，武山“一名五山”，疑据其山巅有五顶颠连之状而称，“五山”当为武山的原称或古名。
据清光绪版《
永平府志》记载，登上武山“绝顶四望，边城在目，有古垒遗迹”；民国版《
昌黎县志》云武山“绿水青山，尽归一览”，其“东接书院山，西临滦河，南为石门，北近钓鱼台，出青石最宜碑碣”。
在武山诸多的溶洞中，一些洞穴堆积有含有大量地质年代比较久远的哺乳动物的化石。多年来，与旧石器文化考古研究有着比较密切关系的武山溶洞，曾先后吸引众多考古专家实地考察。
1976年，卢龙县武山北侧喀斯特溶洞遗址曾整理出人头颅骨化石、马鹿头骨和无名兽骨化石、六颗牙齿化石，此外还有灰烬遗址，因此被认为是远古人类繁衍生息之地，被称为“
武山猿人遗址”。