济阴，因在济水之南而得名。景帝中元六年(公元前144年)从梁国分出定陶国，汉武帝建元三年（前138年）改定陶国为济阴郡，汉宣帝甘露二年(公元前52年)更名为定陶国，哀帝建平二年(公元前5年)又改为济阴郡，属兖州，治所在定陶（今山东菏泽市定陶区）。东汉时期，济阴郡属兖州八郡国之一。唐武德四年改为曹州。济阴郡从汉至明存在1500多年，是中原地区的政治、经济、军事、文化重镇。

尧舜禹时代为古陶国，尧十三岁封于陶（山东菏泽市定陶区）。十五岁辅佐兄长帝挚，改封于唐地，号为陶唐氏。

公元前12世纪，周武王封其六弟振铎为曹伯，建曹国，都陶丘。《说文》：“陶丘有尧城，尧尝居之。

自春秋至西汉800多年间，陶丘“扼菏、济之要，据淮、徐、宁、卫、燕、赵之脊”，一直是中原地区著名的水陆交通中心、经济都会和军事战略要地，享有“天下之中”的美誉。

西汉初彭越封梁王，都定陶。梁国封域约秦国砀郡。

汉景帝中元六年梁国一分为五，于梁国旧都置济阴国，后收为郡。

汉武帝建元三年（前138年）改定陶国为济阴郡。

汉宣帝甘露二年(公元前52年)更名为定陶国。

哀帝建平二年(公元前5年)又改为济阴郡，属兖州。

东汉初为定陶国，不久，改为济阴郡。

永平十五年(公元72年)，刘长被封为济阴王，立十二年，元和元年卒，因无后，国除，复为济阴郡。

延光三年(公元124年)，汉安帝太子刘保被废为济阴王，延光四年刘保即皇帝位，济阴复为郡。

汉献帝建安十七年(公元212年)，济阴复为国。

曹魏黄初元年(元年220年)，复为济阴郡。

太和四年(230)年复为济阴国。

太和五年(公元231年)又复为济阴郡。

西晋时隶属于兖州。

北魏置西兖州，与济阴郡同治定陶，后徙左城（今曹县西北）。

北周改西兖州为曹州。

隋朝大业三年(607年)，改为济阴郡（治济阴县，今曹县西北）。

唐高祖武德四年(621年)，改为曹州。

唐玄宗天宝元年(742年)，复为济阴郡。

乾元元年(758年)，复为曹州。

唐哀帝天佑四年（907年），朱温称帝，废唐哀帝为济阴王，葬于定陶“温岭”。

宋建中靖国元年（1101），曹州改赐广济军。

宋崇宁元年（1102），升曹州为兴仁府，管辖济阴、南华、乘氏和宛亭（冤句）四县。

金大定八年（公元1168年），因城圮于水，迁治故乘氏城。即今菏泽市城区，济阴属之。

明洪武元年（公元1368年）省济阴县，其地直隶曹州。

清雍正十三年(1735年)曹州升为府，治菏泽（今山东菏泽牡丹区）。辖11州县，菏泽（今菏泽市牡丹区）、定陶（今菏泽市定陶区）、钜野（今菏泽市巨野县）、单县（今菏泽市单县）、曹县（今菏泽市曹县）、范县（今河南省范县）、观城（县治在今山东省莘县观城镇）、城武（今菏泽市成武县）、郓城（今菏泽市郓城县）、朝城（县治在今山东省莘县朝城镇）10县及濮州（州治在今菏泽市鄄城县旧城镇）1散州。

2000年6月10日，经国务院批准改菏泽地区为菏泽市（地级），原菏泽市（县级）更名为牡丹区。辖9区县，牡丹、定陶、成武、东明、曹县、单县、巨野、鄄城、郓城。

西汉，《汉书·地理志》：“济阴郡，县九：定陶、冤句、 吕都（吕都县）、葭密、成阳、鄄城、句阳（句阳县）、秺县、乘氏。”治定陶。

东汉，《后汉书·郡国志》载：“济阴郡，十一城：定陶、冤句、成阳、乘氏、句阳、鄄城、离狐、廪丘、单父、成武、己氏（已氏县）。”仍治定陶。

济阴郡，故梁。景帝中六年别为济阴国。宣帝甘露二年更名定陶。

《禹贡》菏泽在定陶东。属兖州。户二十九万二十五，口百三十八万六千二百七十八。县九：定陶，故曹国，周武王弟叔振铎所封。

《禹贡》陶丘在西南。陶丘亭。冤句。莽改定陶曰济平，冤句县曰济平亭。吕都，莽曰祈都。葭密，成阳，有尧冢灵台。《禹贡》雷泽在西北。鄄城，莽曰鄄良。句阳，秺，莽曰万岁。乘氏。

泗水东南至睢陵入淮，过郡六，行千一百一十里。

南朝宋大明元年(457 年)，侨置的济阴县。

泰始年间，入北魏。

太建五年(573 年)十一月辛巳，入陈。

太建十一年，入北周，治昭义(在今安徽省明光市女山湖镇西)，领1 个县。