1932年
洛杉矶奥运会，22岁的格雷维奇首次代表匈牙利队参加奥运会，他与队友一起夺得男子佩剑团体金牌。1936年柏林奥运会，格雷维奇在比赛中取得17比2的领先，并带领匈牙利队夺取佩剑团体冠军，随后他在佩剑个人比赛中，还夺得一枚铜牌。1948年战后的第一届奥运会在英国伦敦举行，38岁的格雷维奇比以前更为强大，他不仅第三次夺得佩剑团体比赛的金牌，还在佩剑个人比赛中创纪录的取得19胜1负的战绩，并夺得该项比赛的金牌。1952年
赫尔辛基奥运会上，格雷维奇实现奖牌的大满贯：在花剑团体赛中夺得铜牌，佩剑团体赛中获得金牌并在佩剑个人赛中获得银牌。1956年
墨尔本奥运会上，他再次帮助匈牙利夺取佩剑团体金牌。1960年罗马奥运会，50岁的格雷维奇完成了自己的最后一次奥运比赛，再一次在男子佩剑团体比赛中夺取金牌。从而在六届奥运比赛的男子佩剑团体中都获得金牌，开创奥运会历史。格雷维奇的妻子，儿子，和岳父也都是奥运会奖牌获得者。退役后，他成为一名击剑教练，并培养出一大批世界一流的击剑选手。
国际奥委会在1988年授予他
奥林匹克勋章。