其父谨轩，清
咸丰、
同治年间去上海谋生，曾拾得一包，内装巨额现钞和汇票，谨轩坐等失主并如数归还，失主 是“礼和洋行”经理(德国人)，以重金酬谢，谨轩坚辞不受，失主甚感激，就邀他至“礼和洋行”工作。
第一次世界大战期间，洋行经理买进大批荒地赠与谨轩。当时上海流传着程谨轩占有“二条龙”：一条“龙”是从河南路的抛球场至西藏路，另一条“龙”是从新世界至卡德路及石门二路一带。霖生继承父业。因上海日趋繁荣，地价猛涨，收进房地租极多，累计约6 000万银两，被称为上海“地皮大王”，是上海最富有的华人之一。还曾开设根泰和合粉厂生产味精，投资大新公司(上海四大公司之一)，开设永大金号、衡吉钱庄等。晚年热衷黄金买卖，恃富狂言要操纵上海黄金市场，因而受到孔宋官僚资本倾轧和社会势力围攻，又遇时局不稳，地价跌落，导致败落几尽，而以变卖家藏古玩度日。
霖生癖好古铜器和古书画，藏有古彝器150余件，印有《新安程氏收藏古金铜器影印册》。并不惜重金收藏
石涛、八大山人、雪庄及新安诸家，特别是石涛的作品，辑有《石涛题画录》5卷。曾支持陶行知办南京晓庄师范、淮安新安小学、歙县王充工学团等。曾花钱营救过柯庆施和陈延年。与东北军抗日将领朱子桥交往甚密，对东北军多有资助。对家乡公益事业贡献尤多，捐资出版民国《歙县志》，独资栽植杭徽公路两旁树木；赠发电机开办屯溪电灯公司；捐资修渔梁坝、凤凰桥；每年夏令，从沪运送大批“申公济众水”来歙，分赠乡人治病等。曾任
歙县旅沪同乡会会长，歙县旅沪同乡普及歙县教育助成会主任等职。