济南古城北门建在
大明湖北岸，城内众泉喷涌汇流至大明湖，从北门溢出进入护城河，所以人称北水门。宋代
曾巩知齐州时著有《齐州北水门记》，可见宋代就有此称谓了。熙宁五年（公元1072年），曾巩改造北水门，因其旧门，加筑水闸。方便开闭，防止城外洪水入城。
北水门在大明湖公园东北隅，宋熙宁五年（1072年）曾巩在齐州任知州时创建。门设闸板，以调节水量。因众泉汇流，从北水门泄出，故亦名汇波门。门上可行人行车，所以也叫汇波桥。元初在水门上建“汇波楼”，面阔七间二层，翼角悬山，吻兽栩栩如生，风铃铿锵扬韵。四周白杨簇拥，如众星捧月。楼建成后，元代散曲大家张养浩为之作记曰，“盖济南形胜，惟登兹楼，可得其全焉”，并咏《登汇波楼》诗，赞美这里的景色:“何处登临思不穷，城楼高倚半天风。鸟飞云锦千层外，人在丹青万幅中。景物相夸春亘野，古人皆梦水连空。浓妆淡抹坡仙句，独许西湖恐未公!”清朝乾隆皇帝也亲临并留下《登汇波楼》诗篇。
解放前夕，楼毁。1981年又按原样建起。其上悬“汇波楼”匾额，为当代书画家、广东省美协副主席李雄才题写。汇波楼巍峨高耸，于上南可瞻历山、玉函等山，北可观华山、鹊山诸峰，湖内波浪碧绿，画舫争渡，涵光倒影，清澈映物，故昔有颜额“河山一览”。若傍晚登至楼上，可看到另一派奇丽景色:向南俯瞰，南丰祠内，晏公台上，钟亭飞架，古柏杈桠，满院杨柳垂荫，修竹郁森；院南一片荷红，远处波光粼粼，斜阳返照，晚霞尽染，万丈光辉，世称“汇波晚照”，为古时济南八景之一。当代书画大师刘海粟今题“汇波晚照”匾额于楼上。
济南多甘泉，名闻者以十数。其酾而为渠，布道路，民庐官寺无所不至，潺潺分流，如深山长谷之间。其汇而为渠，环城之西北，故北城之下疏为门以泄之。若岁水溢，城之外流潦暴集，则常取荆苇为蔽，纳土于门，以防外水之入，既弗坚完，又劳且费。至是，始以库钱买石，僦民为工，因其故门，累石为两涯，其深八十尺，广三十尺，中置石楗，析为二门，扃皆用木，视水之高下而闭纵之。于是内外之水，禁障宣通，皆得其节，人无后庐，劳费以熄。其用工始于二月庚午，而成于三月丙戌。董役者，供备库副使驻泊都监张如纶，右侍禁兵马监押伸怀德。二人者，欲后之人知作之自吾三人者始也，来请书，故为之书。是时熙宁五年壬子也。太常博士充集贤校理知齐州军事曾巩记。