因坐落于
林口台地之山下，泰山自古依地理环境而习称之“山脚”。在台湾清治时期是隶属
淡水厅八里坌堡，
日本时代前期，置区役场于贵子坑，大正9年(1920年)地方制度改革，将区并入
新庄郡新庄街达28年之久。二次战后，实施地方自治，居民皆感接洽公务往返不便，遂有分治之议，迨1950年3月1日划出新庄镇而独立。因境内信仰中心“顶泰山巖”及“下泰山巖”香火鼎盛、庙貌巍巍，遂取名改称“泰山”。
泰山区原为
泰山乡，于1950年3月1日自新庄分治成立时设大科、黎明、山脚、枫树、同荣、义学、明志、贵子等8村，1980年增设贵和村，1982年增设福泰村，1991年10月1日增设同兴村、义仁村、泰友村、新明村、贵贤村等五村。大科村以6.3209平方公里，约占全区土地面积之32．9%为最辽阔，惟该村多属山地地区；黎明村以2.7273平方公里，约占14.2%次之；而以福泰村0.2683平方公里，约仅占1.4%为最小。
指南客运：10（树林－淡海）、801（五股－松山机场）、838（泰山－捷运
关渡站）、918（泰山－新店）→与中兴巴士联营
中山高速公路五股交流道，位于本区幅轴地区，而2省道，环经区境，位距台北市13公里，往返便利。地方建设首重道路，可说四通八达，交通称便，区内国道(中山高速公路)5.5公里，省道(二省道)3公里，市道12公里，区道25公里。
中山路－台一线，通过泰山东南边，可以连接新庄、
桃园与三重、
台北，未来捷运机场线也将通过于此，并设立多站。从民生路口开始已有高架道路，通往台北市更方便快速。
明志路－纵向贯穿泰山的最主要道路，亦为107市道，北接
五股区成泰路通往八里淡水，南接
新庄区中正路，延路商店绵延不绝，是泰山区的都会中心。
泰林路－泰山主要的东西向道路，亦为106市道，东接新庄区新泰路，西往新北市
林口区。
大嵙路－大嵙地区主要道路，可连接到林口区，亦被认定为往
林口的另一替代道路。
南泰路（工专路）－泰山最知名企业
南亚公司的内部道路，用以连接山下与山上，亦可透过此路通往
桃园县龟山乡华亚科技园区与多数工业区。也接近南林科技园区。