郭孝恪年轻时便有不同寻常的志向，但因不事生产，被父兄视为无赖。隋朝末年，郭孝恪率领乡里数百人投靠
瓦岗军首领李密。
李密大喜，让他和徐世勣一同驻守
黎阳（今河南
浚县）。
618年（武德元年），瓦岗溃败，徐世勣归降唐朝，并命郭孝恪奉表入朝。
唐高祖封郭孝恪为
宋州（今
河南商丘）刺史、
阳翟（今河南禹州）
县公，让他和李世勣（即徐世勣，被赐姓李）经营虎牢以东地区，所得州县，也委任他们选补官吏。
619年（武德二年），夏王
窦建德攻破黎阳，俘获淮安王
李神通、李世勣之父
徐盖等人。李世勣被迫投降
窦建德，但仍忠于唐朝，与郭孝恪商量脱身之计。郭孝恪道：“我们应先取得他们的信任，再图脱身之计。”徐世勣赞同。
620年（武德三年），窦建德妻兄曹旦在河南大肆掠夺骚扰，引起众多归附者不满。
相州起义首领
李文相与李世勣结为兄弟，欲杀死
曹旦，投降唐朝。不料事机不成，李世勣便和郭孝恪率数十骑投唐，到达
长安。
621年（武德四年），秦王
李世民东征
王世充。窦建德担心唐朝灭掉王世充后危及自己，于是率军援救洛阳。这时，郭孝恪进言道：“平定王世充指日可待，
窦建德远来，粮运不便，这是天要亡他。大王应固守虎牢，屯军汜水，到时随机应变，歼灭他们就很容易了。”李世民听从了他的建议。
同年五月，窦建德、王世充相继被平定。李世民在
洛阳宫设宴大会众将，并道：“郭孝恪曾献擒窦建德之计，功劳在众将之上。”因此迁升郭孝恪为上柱国。
此后，郭孝恪历任
贝州（今河北
清河）、赵州（河北
赵县）、
江州（今江西
九江）、
泾州（今甘肃
泾川）四州刺史，在任颇有政绩。后来，郭孝恪入朝，任太府
少卿、左骁卫将军。
642年（贞观十六年），郭孝恪出任
凉州都督、
安西都护、西州刺史。西州是
高昌国旧都，镇兵与流放的犯人杂居，与中原又有大漠相隔，因此和朝廷音讯隔绝。郭孝恪到任后，以诚心安抚百姓，尽得当地民心。
当时，西突厥
乙毗咄陆可汗杀死沙钵罗
叶护，袭灭
吐火罗，又扣押唐朝使者，侵扰西域地区，并派兵进犯
伊州（今新疆
哈密）。郭孝恪率二千轻骑自乌骨出击，乙毗咄陆又遣处月、处密诸部围攻天山县（今新疆
托克逊东北）。郭孝恪击退
西突厥，乘胜进占处月
俟斤（即部族首领）所居之城（今新疆乌鲁木齐东北），并一直追至遏索山（在今乌鲁木齐西南），收降处密兵众，然后凯旋而归。
644年（贞观十八年），焉耆王
龙突骑支叛归西突厥，不再向唐朝进贡。郭孝恪上表朝廷，请求讨伐焉耆（今新疆
焉耆），被任命为安西道（一作西州道）行军总管，率三千步骑出银山道，夜袭焉耆，生擒龙突骑支。
不久，郭孝恪返回西州，并留栗婆准代理国政。三日后，西突厥大臣屈利啜率援军赶至，囚禁栗婆准，命五千轻骑追赶郭孝恪。郭孝恪在银山（今新疆托克逊西）迎击，大败西突厥，又追击数十里，方才回军。
648年（贞观二十二年），唐军攻破龟兹都城，龟兹王布失毕率轻骑西逃。
阿史那社尔率军追击布失毕，并让郭孝恪留守龟兹。不久，布失毕被俘，
国相那利只身逃走，暗引
西突厥和本国兵马万余人，回袭郭孝恪部。
当时，郭孝恪认为龟兹余部未平，便在城外扎营，但不听龟兹人的劝告，对那利没有加以防备。那利暗中与城内降兵勾结，潜入城中，并大声鼓噪。郭孝恪这才察觉，于是率所部千余人，进入城中，与敌军交战。
唐太宗得知郭孝恪死讯，责备郭孝恪不加警戒，以致丧命，剥夺其官职，后又怜愍其战死沙场，便为他举哀。
唐高宗即位后，追赠郭孝恪为安西都护、阳翟郡公。
郭孝恪生性奢侈，仆妾器玩，都极尽鲜华，虽在军中，床帷器物也多用金玉装饰。后来，郭孝恪把这些东西送给阿史那社尔，社尔拒不接受。
唐太宗闻听后，道：“二将的优劣，由此事便可看出，不用询问别人了。郭孝恪战死，可以说都是因自己的过错。”
刘昫《旧唐书》：“孝恪机钤果毅，协草昧之际；树勋建策，有杰世之风。然而务奢为恒，既未尽善，举众失律，不其惑与！”