臧惟一明嘉靖四十四年（1565年）中进士，授职宿松知县，又调到
太湖县任职，后升为户部主事，又改调吏部，历任稽勋员外郎兼理文选司事务。在任职期间，他恪尽职守，合理委派官员，颇受大学士高拱器重，接连晋升。后调任文选郎中，时吏部尚书等人对官员的升降调补都要秉承宰相张居正的意旨行事，唯臧惟一刚直不阿主持公道，连尚书也不能改变他的意志。明万历八年（1580年），臧惟一调任大理寺少卿，署理大理寺正卿事务。他在审理各地呈报皇帝最终裁决的重大案件中，发现有几十名没有确证、罪状可疑的人，便奏请皇帝予以释放，皇帝采纳了他的意见。明万历九年（1581年）春，臧惟一随从皇帝检阅军队，升为太仆寺正卿，又调任光禄寺正卿。后臧惟一擢升顺天府尹，一直秉公执事，对所有权贵的请托，他都毅然拒绝。
臧惟一在任
河南巡抚时，取消严酷扰民的规章制度，给百姓以休养生息的机会。明万历十三年（1585年），河南发生旱灾，他令各州县开仓赈济灾民，并上疏皇帝免征这一年的田赋租税。皇帝批准他的请求，使百姓安居。
明万历二十七年（1599年），臧惟一出任南京兵部右侍郎。南方的部队素来骄横凶悍，臧惟一便尽力整顿，使军营中出现了敬畏长官、严守军纪的气象。工部申请移用军队购买战马的银子20万两治理运河，臧惟一说：“留都南京是国家的根本重地，没有购置马匹的款项就是没有南京了。”由于他上疏力争，终于留下了10万两银子。战船久已损坏，臧惟一提出修理战船的4条建议，都被批准执行。不久，臧惟一因病辞职回乡。66岁终。