宋元丰五年(1082年),宋神宗诏命朝臣推举硕学之士。去非得中书舍人。经大臣曾巩力荐,在宫廷对策时,侃侃而谈古今用兵之要略,议论宏焯,词理优赡,神宗大为赞赏,即任他为右班殿直武学教授。不久,升为左侍禁武学教授,受命校订武经《孙子》、《武子》等七本书,统称《
武经七书》。书成,升博士。《
武经七书》定为武学官书。高宗时规定,凡武学都要读《武经七书》,考试以该书命题。
元祐四年(1089年),苏轼看到去非的著作,深感文章笔势雄健,阅视高远,仅授为武职不妥,写《举何去非换文资状》,以为“去非虽善论兵,然本儒也,不乐为武吏。又其他文章,无施不宜,欲望圣慈特予换一文资”。哲宗诏准,加去非承奉郎,博士如故。
何去非为人正直,立志坚毅,不阿谀苟合当时公卿,不久被贬职出京,任徐州(今属江苏省)教授。苏轼又写《进何去非〈备论〉状》的奏章,将何去非的《备论》呈哲宗,认为“若不为所举,臣甘伏所典”。但去非终未受到重用,改知富阳(今属浙江省)县。任内主持兴筑富阳石堤,以抵御钱塘江洪水,利便交通。部使者将其政绩上奏,改去非为通直郎,通判沧州(今河北省沧县)。他抚恤流动百姓,使之安居乐业。后改任授司农寺丞,但去非力求外任,改庐州(今安徽省合肥市)通判。73岁病故。著有《文集》20卷、《备论》4卷、《司马法讲议》3卷、《三略讲议》3卷,都是重要的军事文献。《备论》一书,评述对战国至五代的兴废成败和军事人物的用兵得失,是中国古代第一部军事人物评论集。