清光绪十二年（1886）考取进士，清光绪十五年（1889）
襄办光绪大婚典礼后以知府分发湖北补用。后因任事廉干有声，擢补武昌、汉阳知府。清光绪三十三年3月至清宣统四年10月，赋闲在籍的余肇康被聘为湖南粤汉铁路总公司坐办、总理，主持修筑长株段铁路。
辛亥革命后，迁居上海，1930年夏病逝。
余肇康与湖南巡抚
岑春煊及其他在籍官绅
瞿鸿禨、
王闿运、
王先谦、
谭延闿等交往密切，其留存于世的日记手稿分为三种：《克己斋记事珠》、《务时敏斋日记》和《病余随笔》，共70余本，约400万字。为清同治十一年（1872）至民国十九年（1930）之间所记，真迹现藏
湖南省博物馆，为研究近代社会政治状况及湖南铁路修筑史提供了重要的实物资料。《
余肇康日记》手稿影印件已由
岳麓书社正式出版发行。