1897年7月以后任上海道台。次年2月28日和3月4日，驻沪领事团和法国领事
白藻泰分别提出扩张公共租界和法租界的要求，均遭其拒绝。4月底受两江总督刘坤一委任，督办吴淞开埠工程总局。6月底，法国领事又向其交涉办理转移四明公所产权手续，以便起造学校和医院。因违背1878年协议，遭拒绝。法方单独采取行动，致发生第二次四明公所事件。法方乘机提出酝酿已久的扩张租界要求。清廷因蔡对此事态度强硬，在公使团的压力下，于1899年将其撤职。1901年又以四品候补京堂任驻日本公使。1903年为防止知识界受民主思想的影响，电请清廷停派留日学生。当留日学生组织义勇队赴内地参加拒俄运动时，蔡致电两江总督
端方，请“饬各州县严密查拿”。7月，被清政府召回，在上海办《南方报》，为中英文合刊，1908年2月停刊。