1918年，桂质柏考入武汉文华大学。1920年3月，
文华图书馆学专科学校创办，他以大学二年级资格攻读该专业并在1922年毕业，同年进入北京
协和医院图书馆工作。1923年，到
齐鲁大学从事教学和图书馆管理工作。
1926年，桂质柏赴美留学。1928年，他获得
哥伦比亚大学图书馆学硕士学位。求学期间，他也是纽约中国学生月报的总编辑。在
哥伦比亚大学，桂质柏负责整理了许多中国
县志，以及如二十四史、
四部丛刊、十三经、图书集成等大量中文图书。为哥伦比亚大学中文图书馆进行分类与编目等工作。获硕士学位之后，经过在加拿大麦基尔大学的游学，进入美国
芝加哥大学图书馆研究生院学习，并在1931年获得博士学位，成为中国第一个图书馆学博士。同年，他回归祖国。
1931年6月至1932年7月，桂质柏担任
东北大学图书馆主任，并兼任外语系教授。期间他参加了由李四光率领的东三省5人代表团，该代表团先后在
北平、
上海、
南京、武汉等地高校发表演讲，控诉日军的侵略罪行。1932年桂质柏转任
中央大学图书馆主任，于1935年8月卸任，其后，他又先后担任
四川大学与
武汉大学的教授兼图书馆主任。1956年，桂质柏受命主持筹建
中国科学院武汉分院图书馆。