吴家祖籍安徽婺源（现划归江西），吴调卿9岁时为避
太平天国战火，随家人逃难到
苏州，在一家笔店当学徒。17岁时经一位老师介绍来到上海，开始时给外轮当跑舱、干杂活，给汇丰银行赶马车，后来学会了洋泾浜英语，逐步接触了洋行业务。在汇丰银行服务十年后，凭着安徽人的精明和勤勉，他当上了该行的副买办。1880年
汇丰银行要向北方发展业务时，他被派到天津创办汇丰银行天津分行，担任了该行的买办，并且把汇丰银行的业务发展到了北京。那时，正是直隶总督兼北洋大臣
李鸿章驻节天津的时候。他们是同乡，原先在上海时也间接地打过交道，一个有权，一个有钱，于公于私都可以互补，于是成了好朋友。
吴调卿担任汇丰银行天津分行买办达25年之久，是该行的首任买办，也是银行界买办在天津的
开山鼻祖。他在为汇丰银行效命的同时，也为清廷做过不少事。如1894年，清廷决定修筑关内外铁路的时候，所需巨额贷款就是吴调卿在汇丰为之办理的，同时为之从英国进口了路轨和机车，聘请了多名英国工程技术人员，还在山海关创办了一所北洋铁路官学堂（1896年），他亲任学校总办（校长），这所学校就是后来
西南交通大学的前身。为此，
李鸿章也不亏待他，任命他为关内外铁路局的督办、淮军银钱所总办，还向清廷保荐，授予一个“直隶候补道”的头衔。
汇丰银行方面自然也很信任他，凡是遇到有关借款和一些需要与
李鸿章直接接洽的事项，都交由吴调卿去办理。所以若干年间，他充当了清廷与洋人之间的桥梁，是个两头都搞得定的人。
吴调卿1894年出任中国铁路公司总办，1896年5月出任北洋铁路总局总办。是年5月4日津卢铁路总工程师英国人
金达再次上书津卢铁路督办
胡燏棻，再次陈述创建铁路学堂的建议，并进一步提出了具体办法，拟定《在华学成之铁路工程司章程》16条附呈。上书说：“目下中国所急需者，首在多储人材，以管理零星工程及堪胜上等监工之任者。此种人材，较诸独出心裁起造要工者，尤为急务。故拟设之学堂仅先课以当用之艺，俾其堪胜此项工程耳。查本局所应需者，外人究不若自知之切，是自设学堂尤为尽善。譬如有不胜工程司之任者，亦可量材授差，如车务、机车及巡缉等事。”金达的建议得到
胡燏棻的重视，即转呈新任直隶总督兼北洋大臣
王文韶。不久，
王文韶上书光绪皇帝，而后批准创设铁路学堂，责成
胡燏棻会同北洋官铁路局总办吴调卿具体规划筹办事宜。
1896年11月初，吴调卿拟定学堂开办具体计划和经费筹措办法，同时制定《铁路学堂章程》上书王文韶，请求奏明清廷立案，以便正式开办。吴调卿呈文说：“铁路自创办以来，先开平，后津榆，垂十余年，通商便民已著成效”，“惟是各工程师届借资泰西各国，舍己求人，恐非久计”，“拟请专设学堂，招额生80名，以洋、汉文正副教习各一人，分班教授，三年学满，量才器使。”吴调卿提出的《铁路学堂章程》共20条，是山海关北洋铁路官学堂的第一个建校章程，他提出的办学模式与要求，成为后来创建学校的准绳。
同月，清政府正式批准，并任命吴调卿这位
山海关北洋铁路官学堂的创始人，以北洋官铁路局总办的身份兼任铁路学堂第一任总办（校长）。据当时上海《申报》报道，
王文韶“正以储才为急务，批阅章程有条不紊，当即入告，业已奉准，将次开办”。11月20日，北洋铁路总局在《申报》等报纸上刊登《铁路学堂告白》，正式宣告铁路学堂成立。他受命后，认真规划，积极筹办，使
山海关北洋铁路官学堂应运而生，学校的建立与发展得益于他当年远见卓识的领导。
“本局奉准设立学堂，延聘教习专授造桥造路工程各事。考选良家子弟，不拘何处，年在二十岁左右，读过中西书籍、文理通顺者四十名，为头二班学生，月给瞻银。如有愿学者，取其家属甘结及同乡绅士保结，于十月二十日（按：即公历11月24日）以前来局报名，听候择期考验。入堂试习三个月后，再定留堂肄业。三年学满，果能有成，即派赴工程当差，优给月薪，并禀请奏奖，以示鼓励。如有远道来者，统限于十月三十日（即公历12月4日）取齐，另考一次，额满不收，慎勿观望自误。”