张金树最初任职于燕王高开道手下，被高开道视为爱将。
武德五年（622）
高开道叛唐后，鉴于各割据势力相继被灭，自己已被孤立，但有
突厥支持，犹豫是否再次降唐。但他的手下很多都是
山东人，渴望回到家乡，因此人心思乱。张金树因此图谋杀掉高开道降唐。
当初，高开道收了数百名养子在阶下侍卫，命张金树和
刘黑闼降将张君立统率他们。武德七年（624），张金树暗中令自己的左右亲随假装和养子们游乐，到了晚上，亲随们进入高开道的房间，把弓弦全部割断，又把刀和槊聚集在床下。等到天黑时分，张金树率自己的部众鼓噪攻打高开道，这几个人就把房间里的刀槊抱了出来。高开道的养子将与他们搏战时，却发现弓、槊等武器都已经没了。张君立在外城举火相应，高开道帐下大为扰乱，养子们穷途末路，只得争相向张金树投降。高开道知道自己不能幸免，披甲挺刃在堂上坐下，和妻妾饮酒，张金树及其党羽见状，畏惧高开道的勇猛不敢向前。天快亮的时候，高开道缢死自己的妻妾和子女后自杀，张金树这时才敢上前，派兵把养子们包围起来全部杀掉，同时也杀害了张君立，前后一共杀死五百多人。事后，张金树率众归顺唐高祖
李渊，朝廷任命张金树为
北燕州都督。
贞观十八年（644），大臣
张亮出任沧海道（《新唐书》作平壤道）行军大总管，张金树担任其副将，出兵征讨
高句丽。贞观十九年（645），张亮、张金树屯兵建安城（今辽宁营口）下，遭遇敌军劫营。但张亮一向怯懦，不懂用兵策略，只是踞坐在
胡床上，直视战况一言不发。将士见状却反而以为张亮有胆气，张金树等人就鸣鼓令将士们进军，结果真的击破了来犯的敌军。此后，张金树的事迹失于记载。