吾粲起初担任
乌程县小吏，乌程县县长
孙河认为他非同一般。后来，孙河担任将军，可以自己选拔辖区内的地方官吏，便上表任吾粲为
曲阿县县丞，后来又升任为
长史，治理有声名政绩。吾粲虽说出身于寒微，却与同郡人
陆逊、
卜静等比肩齐名。孙权担任
车骑将军时，征召吾粲为
主簿，外任
山阴县县令，入朝担任参军校尉。
黄武元年（222年），吾粲与
吕范、
贺齐等人一道率领水军在洞口抗击魏国将领
曹休。当时正值天刮大风，船只的缆绳都被扯断，漂到对岸，遭到
张辽、
王凌等人的攻击。有的船只被魏军俘获，有的船只被风吹翻沉没，那些还存在的大船，落水未死的兵卒攀附着船舷大声呼救，船上的官兵都怕人多使船倾覆，都用戈矛刺击水中兵卒，不让他们上船。只有吾粲与黄渊让船上的人将落水者拉上船，手下人认为船只超载定会出事，吾粲说：“船只出事，我们就应一起去死！人家陷入绝境，怎能抛弃他们呢？”吾粲与黄渊救活的人一百多。战事结束后，吾粲被升任为会稽太守。
吾粲征召隐士谢谭为
功曹，谢谭推说有病不就，吾粲开导说：“
应龙因为能屈能伸被认为神，
凤凰因为善于鸣叫显示珍贵，为什么一定要隐身藏迹于天外，潜伏鳞甲于深渊呢？”吾粲招募起许多人马，被任命为昭义中郎将，与
吕岱一起讨伐平定山越。后来入朝担任
屯骑校尉、
少府，又升任为
太子太傅。
赤乌年间（238年―251年），太子
孙和与鲁王
孙霸之间的
二宫之争触发，朝中官员分成两派。吾粲坚持要确立嫡庶之分，要求将鲁王孙霸调出朝廷驻守
夏口，将孙霸党羽
杨竺遣发出外不让他留在京都
建业，又多次将情况传告陆逊，陆逊当时驻守武昌，接连数次上表谏诤。由此吾粲遭到孙霸、杨竺等人的谮毁陷害，最终被关进监狱处死。