秦二世元年（前209年）春季，秦二世皇帝
胡亥向东巡视郡县，李斯随行。到达
碣石后，沿海岸行进，向南到达
会稽郡，并且在始皇所立的石碑上都刻了文字，石碑旁还刻有随行大臣的名字，来彰显先帝的丰功伟绩：
二世皇帝说：“这些石碑都是始皇帝所立的。现在我继承了皇帝的称号，可是这些石碑所刻文字不称始皇帝，等到很久以后看起来就像是后来继位的人所立的，配不上始皇帝的丰功伟绩。”丞相臣李斯、臣冯去疾、
御史大夫臣德冒死进言：“我们请求将诏书全部刻在石碑上，这样就清楚了。我们冒死提出这一请求。”二世皇帝
制命说：“可以。”
秦二世皇帝胡亥受
赵高蛊惑，深居宫中只与赵高决断政务。
公卿很少能见到皇帝，各地叛军越来越多，朝廷不断从关中调发士卒向东平叛。右丞相冯去疾、
左丞相李斯、将军
冯劫进谏说：“关东各路叛贼同时起兵，秦军发兵镇压，已经杀死很多人了，可是叛乱依然没有平息。叛贼太多，正是因为
戍守转运和劳役使百姓过于辛苦，
赋税过于沉重。请求暂时停止
阿房宫的兴建，减少四方的戍守和转运。”胡亥说：“我听
韩非子说：‘
尧舜的
屋椽不加整治，屋顶的茅草不加
修葺，吃饭用土碗，喝水用瓦盆，现在即使是看守城门的人，也不会比这更节俭了。
大禹开凿龙门，打通华夏的道路，疏导黄河的积水，将其引入大海，亲自拿着
板筑和土锸，磨光了小腿的汗毛，现在奴仆的劳苦也不会比这更厉害了。’那些尊贵而拥有天下的人，应该为所欲为，主要是严明法令，下面的人就不敢做坏事，就能控制四海之内了。像
虞、
夏的君主，尽管贵为天子，却亲自从事穷苦的工作，为百姓做表率，这样还要法令干什么？我贵为
万乘之君，却名不副实，我要制造千乘的车驾，设置万乘的臣属，以此符合的名号。况且先帝出身于诸侯，后来兼并天下，现在天下已经平定，对外能够驱逐四方夷狄来安定边境，对内兴修宫殿来显示得意，而各位都看到了先帝功业的开创过程。现在我即位两年之内，各路叛贼同时起兵，诸位没能力制止，又想要废除先帝推行的政策，首先无法报答先帝，其次也不能对我尽忠效力，凭什么身居高位？”他把冯去疾、李斯、冯劫下交狱吏，追究他们的各种罪行。冯去疾、冯劫说：“
将相不能被侮辱。”于是他们自杀了。
李斯最后被囚禁，遭受了各种刑罚。不久李斯也被腰斩于咸阳街市，夷灭三族。
其事在秦二世二年七月（前208年7月29日至8月27日期间），当时
章邯、
司马欣、
董翳等秦军将领正在黄河一带驱逐
张楚叛军。
司马迁：
始皇去世以后，
胡亥非常蠢钝，郦山陵墓还没有完工，又要修建阿房宫，只为完成始皇的遗命，他说：“凡是尊贵而拥有天下的人，都可以随心所欲，大臣怎么能试图废除先帝所做的事情呢？”他诛杀李斯、冯去疾，任用赵高。他的话实在令人心痛啊！他长着人的头，却发出牲畜的叫声。没有威势就不能自夸，罪恶不深重就不会轻易灭亡，最终帝位无法保留，残酷暴虐只能让在位的时间更加短暂。秦国虽然占据了有利地形，却还是不能保全。
《史记》中只将其记载为“右丞相去疾”，不言其姓。但根据《汉书·
冯奉世传》，他与冯劫都是
冯亭（献
上党郡给
赵国，导致秦赵
长平之战）的后代，也是
冯唐、
冯奉世的先辈。