徐衡之的经历颇具传奇色彩。他于早期曾师从国学大师章太炎，后与中西汇通代表恽铁樵亦师亦友。曾合作创办函授学校，他担任教务。

最具传奇色彩的是他与中医同道陆渊雷、章次公在“发皇古义、融会新知(中西结合的雅训之最早提法)”方面志同道合．于是合作创办上海国医学院。他那时的痴迷程度，竟至为了凑足经费卖掉了自己的房地产。医校果然在淮海路雁荡路成功开出．极一时之盛，成为老三校外(于上海中医学院、中国医学院之后，新中国医学院之前)最具规模的一所私立中医高等学府。后日寇侵华燃起战火，学校毁于一旦，以一人之力独木难支．学校再也无力重建，一片心血付之东流，倒被旁人讥讽为“白痴”办学。徐氏是上海中医学院(前身上海中医专门学校)最早期的肄业生．