2013年1月19日，
百度CEO
李彦宏在2012年年会上提出，2013年百度将建立初期专注于Deep Learning(
深度学习)的研究院，并命名为Institute of Deep Learning(简称IDL)。
百度是中国互联网企业中第一个把Deep Learning提到核心技术创新地位的企业。在李彦宏的眼中，百度IDL的目标是成为“AT&T-Bell labs，Xerox PARC这样的一流的研究机构”。
2014年4月，百度成立了大数据实验室（BDL），同年5月又成立硅谷人工智能实验室（SVAIL），深度学习研究院改为
深度学习实验室（将沿用“IDL”的名称），与此同时，百度研究院（Baidu Research）也正式组建，研究院包括上述三个实验室，即IDL、BDL和SVAIL。
2017年3月，百度明确把人工智能作为公司发展战略，整合AI核心技术，成立AI技术平台体系（AIG），任命副总裁王海峰为总负责人，推动研发领先的AI核心技术，对内赋能重要业务，对外繁荣技术生态，加速AI商业化落地。AIG总负责人王海峰兼任研究院院长，并明确研究院聚焦人工智能前瞻基础研究，布局百度人工智能未来发展方向，服务百度作为人工智能公司的长期发展战略。
2018年1月18日，百度研究院在硅谷召开全员大会，宣布百度研究院再次升级，由原来的三个实验室增加为五个实验室，宣布设立商业智能实验室（Business Intelligence Lab，BIL）和机器人与自动驾驶实验室（Roboticsand Autonomous Driving Lab，RAL），同时Kenneth Ward Church、浣军、熊辉等世界级人工智能领域科学家加盟百度研究院。
2018年11月13日，百度研究院在美国硅谷召开会议，宣布百度研究院顾问委员会正式成立，并宣布在2018年陆续迎来9位世界级科学家加盟。当天，百度研究院院长
王海峰领衔的百度研究院顾问委员会和核心科学家亮相百度美国办公室。
百度研究院已拥有7个实验室和一个顾问委员会，7个实验室分别是：大数据实验室（Big Data Lab，BDL）、商业智能实验室（Business Intelligence Lab，BIL）、认知计算实验室（Cognitive Computing Lab，CCL）、量子计算研究所（Institute for Quantum Computing，IQC）、深度学习实验室（Institute of Deep Learning，IDL）、机器人与自动驾驶实验室（Robotics and Autonomous Driving Lab，RAL）、硅谷人工智能实验室（Silicon Valley Artificial Intelligence Lab，SVAIL）。