衡鱼村按方位形成前衡鱼、后衡鱼、东衡鱼三个自然村。汇河（古称陶河、衡鱼河）从村中穿流而过。据传：该村建于周代（约公元前700年）。衡鱼原名“都君庄”，历史上是
舜帝成都之处；还是春秋时期著名史学家、文学家
左丘明故里。该村文化底蕴深厚，历史源远流长。
传说上古时期，大舜帝曾在此捕渔、打猎、耕稼。
虞舜来到衡鱼后，耕者让畔，渔者让泽，一年成聚，二年成邑，三年成都。后虞舜被尊为“都君”，陶河滨亦被更名为“都君庄”。村里至今仍流传着舜帝仁孝感后母、以孝治天下的故事。衡鱼唐代《重整庙会碑记》载：“衡鱼，古都君庄也，是处旧有都君祠由来已久，迄东竟为隙地。”清康熙十一年（1672年）《肥城县志?古迹志》亦载：“都君庄在城（今肥城老城）西南四十里衡鱼，即虞舜成都之处”。
2004年，在衡鱼村东南处发现了舜王冢。舜王冢墓径30米，高10余米。堆土以及附近农田中发现大量灰陶、红陶、白陶、黑陶残片，贝壳等遗存。近几年，村民曾挖出过大量古砖、炉灶和实心夹沙褐陶鼎（鬲）足。专家考证，该地是龙山文化时期到商周时期的历史遗迹。舜王冢的发现，与附近都君庄、都君祠以及周围古村落，为舜帝曾在衡鱼成都的有力证据。
都君庄后改称衡鱼，当地流传着一种说法。据说，都君庄周围原是一望无际的湖水，历史上为九州通衢，物阜民丰，商贾云集，鱼市兴盛，遂于战国时期更名为“衡鱼”（含交易鱼货之意）。清光绪三十四年（1908年）《肥城县志》载：“衡鱼集在城西南五十里，商贾云集，亦大市场也。”时钱庄、油坊、酒店、中药铺、杂货店、印染等各类店铺达100余家。
左丘明，姓丘名明。公元前550年，时任楚国左史官的左丘明之父丘成，因楚国内乱，便回故里鲁国都君庄（今衡鱼村）居住，不久受聘任鲁太史。丘成病归后，其子丘明便继任鲁国左史官，时人尊其为左丘明。左丘明学识渊博，为世人所崇拜。司马迁称其为“鲁之君子”。他历时30余年，著成了纵贯200余年、18 万余字的中国古代第一部编年史《春秋左氏传》和现存最早的国别体史书《国语》。
约公元前470年，左丘明告老还乡后，居住在都君庄（今衡鱼村），衡鱼现存有左丘明所植银杏树一株及其使用过的石碾、石碓、左丘井等。约公元前452年，左丘明卒后，葬于东衡鱼村东北处高地上，今其坟墓仍存。《汉书2》，明世宗封左丘明为先儒。明崇祯十五年（1642 年），朱由俭封左丘明为先贤。
左丘明后裔为感谢唐太宗封左丘明为经师，曾植槐树（寓怀之意）一株，称“谢封唐槐”。今唐槐仍屹立于后衡鱼村东头古井旁，枝繁叶茂，荫地近亩，为一方之胜景。每逢夏季，金花万朵，槐香四溢，蜂蝶起舞，观者如织，“古井映槐”为石横八景之一。