张可大守卫瓜州时，严励治盗，当地江洋大盗几乎绝迹。税监官鲁保去世，巡抚
李三才命张可大负责登记鲁保家的财产，鲁保的家人送重金贿赂，张可大拒之不受。大学士
叶向高赴召路过仪真，见到张可大，十分诧异，说：“此人不只是良将，而且是良吏也。”一次，向朝廷进贡的船只在帆山附近被打劫，张可大勇擒贼首徐少山，将盗贼全部抓获，升
游击将军，又改
广东高肇参将。后调任浙江舟山，奉命征讨黎人，与总兵
王鸣鹤用黑番为向导，直掏黎人巢穴，黎乱遂平。
舟山为浙江要害，张可大上任便提出八条建议，对
舟山的边防武备都具有很大的实用性。倭寇侵犯五罩湖、白沙港、
茶山、潭头等地，张可大率兵一一将其消灭，被晋升为副总兵。舟山城墙年久失修，大多塌坏，张可大与副使蔡献臣带领军民，用两个月的时间修葺加固。海潮常常浸害城内外数千亩庄稼，张可大又为百姓建水闸蓄淡水，使千亩粮田物美粮丰，
老百姓给这个水闸起名为“张公闸”。天启元年（1621），张可大任都指挥使，掌南京
锦衣卫，以勤勉忠于职守闻名，并撰《南京锦衣卫志》二十卷。天启六年（1626），升为都督佥事，佥书南京右府。
张可大生平孝友，又博学多才，所到之地，
礼贤下士。虽在
军旅，每日带兵训练、打仗，但他依然手不释卷，有
儒将之风。
崇祯元年（1628），张可大出任山东登莱
总兵官。登莱历来为神京门户，张可大尽心海防，每每亲自巡视，将沿海地形，兵力强弱绘制成《海防图说》上交朝廷。崇祯二年（1629）冬，白莲教余众上万人围攻莱阳，张可大率军进击，焚烧其六寨，捕获其首领李成、许汤，杀之，莱阳之围遂解。不久京城有警，张可大受命保卫，镇守西直、
广宁诸城门。崇祯三年（1630），张可大以勤王有功，升
都督同知。这时刘兴治在
东江谋反，张可大奉诏还镇讨平。崇祯四年（1631），晋升右都督（
正一品）。十月，佥书南京左府兼督
池河、浦口二军。还未赴任，发生“吴桥叛变”，张可大率兵平叛，战败，杀其妾陈氏，于官署太平楼的墙上写道：“某年月日，山东总兵张可大尽节于此。”然后，
自缢身亡。
朝廷知道了张可大的事迹后，赠
特进荣禄大夫、太子少傅，谥庄节，赐祭葬，予世荫，建祠曰“旌忠”。