1927年与
孙理莲(Lillian Dickson)结婚，受到学生海外志愿宣教运动(Student Volunteer Movement)影响，接受加拿大长老教会征召为宣教师，同年10月抵达台湾。一直到1940年因局势恶化被迫离开台湾为止，他先后担任
淡江中学代理校长和台北神学校（今
台湾神学院）校长的职务，并协助北部教会年轻传道师、长执推动教会革新运动，史称「新人运动」。1940至1945年间转至南美洲英属圭亚那从事台湾少数民族工作，并建设一间神学院。1946年返回台湾后，他继续领导
台湾神学院，在20年间将其从仅有2位专任老师、几十位学生的小学院转化成拥有11位专任老师、超过160名学生的正规神学院，并将校址从牛埔庄（现今台北市中山北路台泥大楼）迁至美丽幽静的阳明山岭头现址，且亲自苦心经营校园的规划与建设。同时，他也全心投入台湾少数民族的宣教工作，不屈不挠地创建了385所教会，4个中会，也为数千名台湾少数民族基督徒洗礼。此一工作被普世基督教界称为「二十世纪的神迹」。孙雅各具有美国人个性爽朗亲和、手腕灵活的特质，与先前的加拿大宣教师相当不同，且行事着重规模和实效，并兼具行政经营才能、开创性和远见。他们夫妇和当时总统蒋介石夫妇的私交也带来不少处事上的便利。