北京乒乓球队始建于1956年。当时负责国家体委工作的贺龙元帅说：“祖国的首都是祖国的门面，没有高水平的运动队来完成任务是不行的”。在贺龙元帅和北京市委负责同志的关怀和争取下，国家体委除将足、篮、排三大球下放给北京外，还把
乒乓球运动员下放给北京。这样，在国家
乒乓球队的基础上，北京乒乓球队遂告成立。教练
梁焯辉、
傅其芳，男队队员
王传耀、
姜永宁、
庄家富、岑淮光、王锡添、郭毅萍、胡炳权，女队队员
孙梅英、
邱钟惠、
叶佩琼、章宝娣。
1956年9月在武汉进行的第一届全国乒乓球比赛上，北京队包揽了男单和女单的前三名。半年后，在瑞典斯德哥尔摩举行的第二十四届
世界乒乓球锦标赛中，北京男队队员同兄弟省市队员合作，夺得团体第三名，北京女队也获得团体第三名，这是我国首次在世界乒乓球大赛中夺得奖牌。
从1957年11月到1965年9月是北京队的全盛时期。在此期间的九届全国比赛，北京队荣膺了两次男团冠军、三次女团冠军，还获得了23个单项第一。在同期举行的四届世界锦标赛中，北京乒乓球队摘得金牌八枚、银牌三枚、
铜牌十五枚（包括与兄弟省市队员合作）。
北京运动员
庄则栋在1961年举行的第二十六届世界乒乓球锦标赛上，获得了男子单打和团体两项冠军，此后又在第二十七、二十八届世界乒乓球锦标赛上连续夺得男子单打冠军，为祖国和北京赢得了荣誉。
1972年，在北京举行的五项球类运动会上，北京男队成绩下降到历史最低水平，仅获得第二十名；北京女队获得女团的第二名。在1973年武汉举行的全国大赛上，北京男队获得第十一名。
1974年，岑淮光等一些老教练执掌北京队。1974年11月在南宁举行的全国大赛上，北京队重夺男团冠军，女队队员阎桂丽取得了女单第二名的成绩。在1977、1981、1982、1984、1985、1986、1988年，北京男队连获全国男团冠军；1984、1985、1986年，北京女队三获全国亚军。滕义三次在全国乒乓球赛单项比赛中夺魁（其中一次混双与赵小云合作）。1989年
陈志斌获男单和男双冠军（与外省队员合作）。1990年张雷获男单冠军并且在1990、1992、1994年三次获得男双冠军。1994年
熊柯获男单冠军。2000年侯英超获男单冠军。2002年
唐鹏获男单冠军。1999年北京队取得女团冠军，2003年再次将女团冠军荣誉收入囊中，队员
张怡宁、
郭焱分获女单冠亚军，张怡宁获女双冠军。
北京乒乓球队在全运会上如下：1975年
第三届全运会获女团冠军、女单冠亚军、女双亚军；1983年五运会滕义/赵晓云获混双冠军；1987年六运会获男团亚军、混双亚军；1993年七运会获男团冠军、女团亚军；1997年八运会获女团亚军；2001年九运会获女团冠军，女单、男双亚军。
在八十年代前，魏力婕、阎桂丽、卢启伟、滕义、杨玉华等就在
世界乒乓球锦标赛上取得了优异的成绩。1990年
陈志斌获亚运会男双冠军，1991年张雷获世界杯男团冠军，1997年
王晨获世界锦标赛女团冠军，1999年
张怡宁获世界锦标赛女团冠军，2001年张怡宁获世界锦标赛女团冠军，2002年张怡宁获世界杯女单冠军。2003年，张怡宁世界排名第一，
郭焱世界排名第四，这是北京女队自建队以来，运动员达到的最高排名。
2022年11月5日，在
2022年全国乒乓球锦标赛男子团体四分之一决赛中，由王楚钦领衔的北京队以1-3不敌黑龙江队，无缘四强。
岑淮光、
叶佩琼、胡旭先、庄则栋、仇宝琴、石凤玲、田书元、王思龙、
王大勇、蔡延东、李小东、刘分平、刘雅琴、周树森、刘世旭、徐志崇、张雷、王卓敏、张怡宁、郭焱、马龙、丁宁、王楚钦等运动员都是球队历史队员或者现役队员。