耿豪原名耿令贵。巨鹿人。其祖先因避前赵、后赵之乱，移居辽东，因此出仕
前燕。曾祖父耿超时，率领部众归附北魏，于是在神武川定居。
耿豪自幼粗野狂放，会武艺，喜欢凭气势压过别人。
贺拔岳西征时，进入帐内任职。贺拔岳被
侯莫陈悦杀害后，耿豪跟随
宇文泰，因勇武而被宇文泰看重。耿豪也自认为侍奉了一个合适的主人。耿豪随从宇文泰讨伐
侯莫陈悦以及迎接孝武帝，记录前后功劳，封
平原县子，食邑三百户，担任
宁朔将军、
奉车都尉。迁征虏将军，加
通直散骑常侍，晋封侯爵，食邑增加七百户。
随从西魏大军擒获
窦泰，收复弘农，耿豪率先冲锋陷阵，加前将军、
中散大夫。在沙苑之战中，耿豪杀伤很多，鲜血把盔甲衣服全部染红。宇文泰见到，感叹地说：“令贵勇武猛悍，所向无敌，看看他的盔甲衣裳，就可以证明了，用不着再查他砍下多少脑袋。”于是耿豪进封公爵，食邑增至一千五百户。担任镇北将军、金紫光禄大夫、南郢州刺史。
大统九年，耿豪跟随
宇文泰在邙山作战，对部下说：“大丈夫见到贼人，必须右手拔刀，左手持长矛，直刺猛砍，切莫皱眉怕死”。于是，狂呼着独自冲入敌阵，敌人乱刀砍下，大家都认为耿豪已经阵亡。谁知他转眼间又挺刀而归。连战数回合，抵挡耿豪的敌人，相继死伤。他又曾对身边的人说：“没有人喜欢杀人。但壮士消灭贼人，不得不这样干。如果不能杀贼，又不被贼所伤，与那些只会坐着空发议论的文人有什么区别”。得到宇文泰赞赏，授
北雍州刺史。
十三年，朝廷论耿豪前后的战功，进授他车骑大将军、仪同三司，食邑增至一千八百户。十五年，赐耿豪姓和稽氏，耿豪进位
侍中、
骠骑大将军、
开府仪同三司。十六年，耿豪去世，时年四十五岁。宇文泰悲痛惋惜，朝廷追赠耿豪原官职，加赠朔州刺史。
耿豪最初随从贺拔岳西征，贺拔岳死后，归附宇文泰，随从讨伐侯莫陈悦以及迎接孝武帝，参与了擒获
窦泰、收复弘农、邙山之战等与东魏的战争。勇猛善战，屡立战功。
耿豪凶猛强悍，说话大多无礼。宇文泰爱惜他作战勇猛，每次都格外宽容他。耿豪也自以为气概超过众人，始终无所屈服。李穆、蔡祐当初与耿豪同时被授予开府，但后来的职位都在耿豪之上。耿豪心有不平，对宇文泰说：“在外面听大家说，在下认为胜过李穆、蔡祐。”宇文泰问：“为什么这样说”。耿豪答道：“人们说李穆、蔡祐，是丞相的胳膊，耿豪、王勇，是丞相的咽喉脖子。因为咽喉脖上长在上面，所以胜过
李穆和
蔡祐。”耿豪的粗豪，都像这样。
宇文泰：“武猛，所向无前，观其甲裳，足以为验，不须更论级数也。”
李延寿《北史》：“
王杰、王勇、
宇文虬、耿豪、
高琳、
李和、
伊娄穆、
侯植等咸以果毅之姿，效节扰攘之际，各能屠坚覆锐，自致其功，高爵厚位，固其宜也。”