上海商业会议公所始创于1902年，公所设在上海大马路（今南京东路）五昌里。是中国第一个全市性商会。以“明宗旨，通上下、联群情、陈利弊、定规则、追逋负”为宗旨，内以处分华商争端，外以对付洋商之交涉、联络商情、挽回利益。下设4个商务分会。光绪三十年，改称上海商务总会，1912年1月1日，上海商务总会与上海商务公所合并改组成为上海总商会。

《辛丑条约》以后，英国率先提出修订商约，拟定于清光绪二十八年四月（1902年5月8日～6月5日）在上海正式开议，英方代表马凯事先征询了英国商会及在沪和明商会的意见，提出了以24个条款为主体的一揽子修约方案，争取谈判的主动。中国没有商会，中方代表盛宣怀无处咨询，也没有商业法规可作依据，认为建立本国商会刻不容缓。光绪二十七年末，盛宣怀会同上海绅商严信厚、郑观应及上海道袁树勋等共同磋商，决定在短期内筹备设立商会。严信厚衔命筹办。

光绪二十八年（1902）正月十五日（2月22日），各业董事70余人聚议，宣告上海商业会议公所成立，严信厚受委担任总董兼总理。而后，又公议了由严信厚起草的《暂行简章》6条，其内容是明宗旨、通上下、联群情、陈利弊、定规则、追逋负。会后，盛宣怀颁给“上海商业会议公所”木质关防。八月（9月2日～10月1日），由盛宣怀会同督办商务大臣张之洞，向清政府奏请设立上海商业会议公所，并得到批准。

光绪三十年（1904）四月二十二日（6月5日），上海商业会议公所正式改名为上海商务总会。

民国元年（1912年）1月1日，中华民国临时政府宣告成立后，商务总会提出统一上海两个商务机构的主张，公开发表《并合商务总会、商务公所改良办法意见书》。《意见书》发表后，两会分别召集各业、各帮的商董会议表决，随即达成共识，以上海总商会的名称合并两个商会组织，以商务公所的办公地为总商会的会址，商务总会章程暂行延用。

光绪二十九年七月（8月23日～9月20日），清政府设立商部，派载振为商部尚书，伍廷芳为商部左侍郎，陈璧为商部右侍郎。新设商部制定了择选大商董为商部官员、考察商情、推广商会等一系列的重商计划。十一月二十四日（1904年1月11日）订定了《禀定商会简明章程》26条，内容涉及商会的组建与名称，商董的资格与产生，商会的职责与任务等，其第二款规定“凡各省各埠，如前经各行众商，公立有商业公所及商务公会等名目者，应即遵照规定部章，一律改为商会”，第三款又规定：“凡属商务繁富之区，不论系会垣，系城埠，宜设立商务总会，……如直隶之天津、山东之烟台，江苏之上海、湖北之汉口、四川之重庆、广东之广州、福建之厦门，均作为设总会之处”。根据这一章程，上海商业会议公所遂进行改组。

光绪三十年二月（3月17日～4月15日），公所推举严信厚、徐润、周金箴为改组后的商会的首届总理、协理，并推举产生了议董，商会会址从南京路五昌里迁移至虹口爱而近路（安庆路）。随后，商会同仁拟定了《暂行试办详细章程》73条。第一条表明，“本会系上海原有之商业会议公所，今遵商部奏定章程，改为上海商务总会”，四月二十二日（6月5日），上海商业会议公所正式改名为上海商务总会，遵奏刊刻“上海商务总会”关防1枚。并将暂行章程向工部局、洋商总会通报。光绪三十三年三月初九日（1907年4月21日），在会员特别大会上，正式通过了《上海商务总会公议详细章程》92条，并上禀农工商部获准及备案。自光绪三十年二月至宣统三年二月上海商务总会每年选举一次，共7任。