为了将上海各种抗日救亡力量团结起来，并纳入政府的统筹管理之下，经国民党上海市党部授意，在上海市地方协会、市商会、市总工会、市妇女会、市教育会、市农会、银行公会等团体的联合倡议下，1937年7月22日，上海各行业公会、各区市民会、各国货团体、各同乡会以及机关学校等500多个团体组织召开大会，宣告成立上海市各界抗敌后援会。该会以“本中央既定方针作抗敌后援，共谋完整国土、复兴民族”为宗旨，成员包括几乎囊括了上海各界的知名人士，如
虞洽卿、
王晓籁、穆藕初、
厉麟似、
刘湛恩、颜福庆、
潘序伦、
陈光甫等。
上海市各界抗敌后援会分设执行和监察两个委员会，负责管理该会的正常运作，其中有执行委员121人，监察委员25人，在执行委员中又选出王晓籁、
杜月笙、
钱新之、
潘公展、
张寿镛、童行白、黄任之、柯干臣、
陆京士等9人组成主席团，并以陶百川为秘书长，主持该会的日常事务。
为积极支援抗战，具体落实各项后援工作，上海市各界抗敌后援会先后设立了供应委员会（办理军需供应及军队慰劳，后更名慰劳委员会）、救济委员会（办理难民救济事项）、防护委员会（负责防空、防火、防毒及交通、灯火管制）、交通委员会（组织战时交通运输）、粮食委员会（为兵民筹集调配粮食，后改称为民食调节委员会）、技术委员会（协助军队解决战时工程问题）、宣传委员会（负责向国际国内开展抗日宣传）、设计委员会（专门研究战时各种问题并提供解决方案）、组织委员会（办理抗日救亡团体的登记、指导及训练事宜）。这些委员会的人员组成充分体现出各界抗敌后援会的广泛参与性，许多社会贤达包括不少共产党员和进步人士都被吸纳到上述机构从事专业工作，如设计委员会就由
沈钧儒、
郭沫若任正、副主任，救国会“七君子”中的
邹韬奋、
王造时、
章乃器、史良、沙千里、李公仆及共产党员钱俊瑞、胡愈之等出任委员。
可以说，上海市各界抗敌后援会机构庞大，任务繁杂，在相当程度上辅助甚至执行了某些政府职能，成为一个战时体制下带有抗日民族统一战线色彩的临时权力机构，并被法定为全市抗日救亡团体的“最高组织”。
上海市各界抗敌后援会成立后，领导和协调上海各个社会组织和救亡团体，开展了大量的抗日后援工作，尤其是“八一三”淞沪抗战期间，该会更是在配合和支援前线作战方面发挥了积极作用。