彦琮生于北齐文宣帝
高洋天保六年（公元556年），自幼即聪慧过人，勤奋好学，博闻强记。
彦琮8岁时，有一个僧人边法师，让他读《须大拿经》，近七千字的经文彦琮一日就读完，并能通晓经义，倒背如流。边法师很惊讶他的才能，就考他说：“释迦牟尼是何如人也？”这话问得很深奥，都知道释迦牟尼是西天如来佛，但“何如人也”一句包括则极为广泛。但彦琮却毫不迟疑地答道：“是女人，
释迦牟尼在《
金刚经》里说‘夫座儿座’，如果不是女人的话，他怎么会夫座然后儿座呢？”彦琮的回答尽管有些牵强，但一个小童能如此问答也很不一般。因此，边法师对他超人的阅读能力和记忆力十分惊奇。彦琮10岁出家时，他的聪慧名声已经广为传播。十四岁时彦琮收到北齐重臣敬长瑜、朝秀、卢思道、元行恭、邢恕联名签发一封邀请信，他们要请少年彦琮为北齐的建立讲大智论。这事在当时传为奇闻。
周灭齐后，佛教衰落。
周武帝知道彦琮学识渊博，彦琮佛、道、儒三教俱通,就把他请到宫内，和他谈论道家的玄理,周武帝大力宣扬道教，宣帝继承武帝的做法，大做道场，经常是通宵达旦地进行。彦琮因为详知道家典籍，被请来主持道场。彦琮在谈论道教时，把
佛法加进去讲授，使听众在不知不觉中接受了佛法。 开皇（
隋文帝年号）三年,彦琮随文帝东巡。在东巡中，彦琮受到晋王（
杨广）的礼遇,不久，在太原镇守的秦王请彦琮到太原去，与彦琮谈论佛教。
开皇十二年，文帝再次下诏让彦琮入京。后来让他掌管佛经翻译，住在大兴善寺。仁寿二年，文帝让彦琮撰写众经目录，彦琮把众经分为五种类型：单译、重翻、别生、疑伪、随卷。大业（
隋炀帝年号）二年，设置东都，炀帝召彦琮入宫，和他谈论佛法。彦琮所谈的东西，炀帝非常感兴趣，他们一连谈了几夜。彦琮向炀帝讲述译经之事，又给炀帝看了他所做的颂，这使炀帝对佛法有了进一步的认识。炀帝传旨，在洛阳上林苑设立翻经馆，让彦琮在那里主持翻译。当时翻经馆担任华僧的译者仅彦琮一人。在新平林邑得到的佛经五百六十四匣一千三百五十多部，还有昆仑写的多梨树叶。炀帝下令，让把这些佛经送到翻经馆交给彦琮，让他阅读并编写目录，然后再逐渐翻译。
彦琮于是写成五卷的七体目录，这七体是：经、律、赞、论、方、字、杂书。用汉文翻出的经书，有二千二百多卷。该书共分草本、重译、别生、疑伪、缺草等五卷，勘定了当时书写佛经总集的标准，对后世经典具有很大影响。因此书一刊出，即盛行一时。不久，彦琮又撰写了《
西域传》一书，并改正了当时同类著作的错误，充实了内容，使人们对西方的地理状况、风俗人情有了一个全面的了解。当时，有一个印度僧人来谒见隋文帝，回国时，请求带回隋国《舍利瑞图经》和《国家详瑞录》，彦琮倾一人之力，独自将它们翻译为梵文，后在西域诸国流传很广。
由于积劳成积，彦琮病逝于隋大业六年（公元610年），终年54岁。死后归藏故里
邢台隆尧宣务山。
其墓于山之东坡就山凿成一棺形石室。此棺长5.2米，头高2.6米，尾高2米。石棺中有一洞，深2.5米，高0.8米，口宽0.75米。棺之左侧有石阶，拾级而上可达棺口。棺口处刻有“隋国译经法师彦琮遗身”和“大业六年七月二十四日无常”字样。现此棺基本完好，属邢台隆尧县县级重点文物保护单位。
彦琮一生共译经22部，约达万卷。他每译一经，必制序，述事于经首。为了给译者制订规范，他以多年实践经验，论定了翻译外籍的楷式，有“十条八备”之说。此外，彦琮还著有《天竺记》、《
西域传》、《大隋西国传》等著作。彦琮的著作和译文，繁荣了东西方佛教界，促进了东西方佛教界的交流，尤其是在西南诸国传播了中国的文明和文化，为沟通中外文化交流起了很大的作用。