中华医学会上海分会图书馆成立于1931年，原属中华医学会总会，由骨科专家牛惠生博士在沪创办，曾命名牛惠生图书馆。1951年中华医学会迁往北京，由上海分会接管，上海市卫生局专项拨款。1956年改名中华医学会上海分会图书馆，对全市乃至全国医务人员开放。

该馆目前藏书已有20万余册，其中以临床医学期刊为主。国内外各科临床医学期刊品种较为齐全，尤其是国外原版临床医学期刊品种在全市医学图书馆中居首位，已形成藏书特色，成为华东地区收藏临床医学书刊资料较为集中的医学专业图书馆。

1994年该馆引进了深圳大学图书馆计算机管理系统，组建了馆内计算机管理局域网。图书馆编目、期刊、流通、查询等工作都已进行计算机管理，最近又对该系统进行了升级，为图书馆网络化管理和利用更上一个台阶。1996年组建成了光盘网络，开设读者自助光盘文献检索。提供读者医学文献检索的光盘数据库有：(1)MEDLINE(2)中国生物医学文献光盘数据库(3)IPA国际药学文摘 (4)药物信息全文(5)美国UMI公司Pro Quest Medical library国外医学全文电子期刊(6)中国学术期刊医学卫生专辑光盘版。美国UMI公司电子期刊提供200多种全文医学期刊，除了光盘载体外还提供网上电子期刊，能及时了解国外最新医学信息。1997年该馆在馆内局域网的基础上，建成了远程检索网络，连接各个医院和个人用户，为临床和科研检索医学文献提供方便。开展文献服务工作有：接受读者委托课题咨询、定题检索、馆际互复、索取原文、网上全文文献传递等服务。