1679年，黄嘉略生于福建省莆田县一个殷实的富户家庭，父母都是天主教徒，在他出生不足半月，便受到洗礼，成为一名天主教教徒。他的父亲与西洋传教士
何大化往来密切，因此从小跟随对方学习
拉丁文。7岁时，黄父病逝，黄嘉略被传教士卜于善收为义子，3年后，转随法国传教士梁弘仁（Artus de Lionne）学习。
1701年，就中国人祭祖等问题，耶稣会与其他会矛盾激化，引发中西“礼仪之争”，梁弘仁作为反对耶稣会的一派，也被教廷招至罗马，黄嘉略得以同行。3年后长居巴黎，在法国王家学术总监让-保尔·比尼昂（Jean-Paul Bignon）的推荐下，担任法国国王
路易十四的汉语翻译，兼管皇家图书馆中文书籍的整理编目工作。他用拉丁文编写了第一部《汉语语法》和《汉语词典》，他也是将中文小说翻译成法文、将中国诗歌和音乐介绍到法国的第一人。除此之外，他甚至对孟德斯鸠产生了重要影响。孟德斯鸠曾频繁地会见黄嘉略，听他讲述中国的一切。
黄嘉略的妻子叫玛丽·克洛德·雷尼埃（Marie-Claude Regnier），是一名法国人，两人育有一女，以母亲名字为她命名，叫作黄玛丽（Marie-Claude Huang）。黄嘉略的婚姻生活只维持了两年，女儿出生后不久，他的法国太太病逝，确实死亡日期并无记录。1716年10月13日，久病缠身的黄嘉略亦在巴黎卡耐特街的寓所病逝，享年只有36岁。
黄的女儿在巴黎的生活，目前所知不多，亦未有证据说她曾怀孕产子。现存有一封写于1735年7月14日的书信，并没有抬头及落款，当中曾提到黄小姐不久前逝世，若果此信属实，黄女应在20岁左右亡故。至于黄嘉略逝后葬于何处，同样没有记载，但有后世学者估计，以他生前的家底，相信死后只能葬于公墓之中。