蔡齐荐其材干可用，擢提点淮南路刑狱。
杨崇勋知亳州，恃恩不法，诬蒙城知县王申罪，械送狱。张昷之廉得冤状，乃出王申，发配奸吏若干人。徙广南东路转运使。夷人有犯，其酋长得自治。多惨酷，请一以汉法从事。权度支判官，为京西路转运使，加直史馆，徙河北路转运使。被边诸州发卒斩西山木，卒逃入契丹者岁数百人，敌既利其所开地，又得亡卒，故不急。张昷之戒斩伐，毋得深入北地，卒亦不敢逃。
还为盐铁副使，擢天章阁待制、河北都转运按察使。保州、广信军、安肃军，自五代以来，别领兵万人，号缘边都巡检司，亦曰策先锋，以知州、知军为使，置副二人，分所领卒为三部，使援邻道。宋太祖尝用之有功，诏每出巡别给粮钱以优之。其后州将不复出，内侍为副，数出巡，部卒偏得廪赐，军中以为不均。通判保州石待举言于张昷之，请合三部兵马更出入，季一出即别给钱粮，余悉罢，仍请以武臣代内侍。时杨怀敏方任边事，尤不悦巡检司。云翼卒厌恶石待举，遂杀之以作乱。张昷之自魏州驰至城下，召诸将部分攻城，使人请杨怀敏曰：“不即来，当以军法从事”。杨怀敏既至，又以兵自卫。张昷之曰：诸将方集，尔敢以兵随身，将欲反邪！”叱去守卫者。城开，田况潜杀降兵数百人，张昷之预知其谋。除户部副使，既而坐前事，夺职，知虢州。
王则反贝州，有人言张昷之在河北捕得妖人李教不杀，使得逸去，今乃为王则主谋。事平，无其人。会冀州人段得政诣阙，自言“尝为叔父屯田郎中昙赇免缘坐”，且言“昙以书属昷之”，乃下御史按劾，虽不得书，犹夺三官，出监鄂州税。知汉阳军，稍迁刑部郎中，复待制、知湖州，徙扬州。以光禄卿致仕，卒。张昷之喜吏事，所至有声。退居筑家庙，率子弟岁时奉祠。