崔伯谦，字士逊，博陵安平人。父亲崔文业，任钜鹿太守。崔伯谦小时候，父亲去世，家中贫困，用心侍奉母亲。得到高欢的征召，进入晋阳，补授相府功曹，称赞他说：“清廉奉公，真是好佐吏。”升瀛州别驾。高澄授为京畿司马，慰劳说：“卿在瀛州施展才能，治理得很太平，本府事务繁多，因此授职。”族弟
崔暹当时受到皇上宠幸而显要，崔伯谦和他同在朝廷为官，若非遇到婚丧大事，绝不到他家中去。后来任济北太守，遍行恩德，把鞭子改为熟皮制作，不忍心见罪人流民，表明耻辱而已。有当朝权贵从郡中经过，询问太守政绩如何。那人回答说：“太守用恩德教化百姓，从古未有。歌谣说：‘崔太守，能治政，换皮鞭，施威德，民不争。”’客人说：“既然是恩德教化，为什么又说有威严呢”。百姓回答说：“官吏害怕威严，百姓蒙受恩德。”征召到邺时，百姓都哭着挤在路上。因为弟弟崔士让在关中任职，不能再在内做官，任南钜鹿太守。事情无论大小，一定要亲自过问。百姓中有因家贫体弱而不能诉讼的，都说：“白胡子太守作主，不用发愁决断不了。”后来任银青光禄大夫，去世。
崔伯谦少孤贫，善养母。齐高祖召赴晋阳，补相府
功曹，称之曰：“清直奉公，真良佐也。”迁瀛州别驾。世宗以为京畿司马，劳之曰：“卿骋足瀛州，已著
康歌，督府务殷，是用相授”。族弟崔暹，当时宠要，谦与之僚旧同门，非吉凶未曾造请。后除济北郡太守，恩信大行，乃改鞭用熟皮为之，不忍见血，示耻而已。有朝贵行过郡境，问人太守治政如何。对曰：“府君恩化，古者所无”。因诵为民歌：“崔府君，能治政，易鞭鞭，布威德，民无争”。客曰：“既称恩化，何由复威”。对曰：“长吏惮威，民庶蒙惠”。民有贫弱未理者，皆曰：“自有白须公，不虑不决”。后为
银青光禄大夫，卒。