188年任
徐州刺史，击破徐州黄巾。
董卓被杀后，各路军阀陷入混战，陶谦加入了
袁术、公孙瓒的阵营，对抗
袁绍、
曹操。尔后遣使进京朝贡，获拜安东将军、徐州牧，封溧阳侯。
刘备率军在徐州城下与曹军于禁所部小试锋芒，初战告捷，使久被曹军围困的徐州暂时缓解了危机。于是陶谦急令将刘备迎入城内，盛宴款待。陶谦席间便主动提出将徐州让给刘备，说：当今天下大乱，国将不国；公乃汉室宗亲，正当为国出力。老夫年迈无能，情愿将徐州相让。公勿推辞。我当自写表文，申奏朝廷。”刘备闻言愕然，急忙推辞说：“我虽是汉室苗裔，但功德不足称道，任平原相犹恐不称职。我本是为了义气前来相助。您这样说，莫非怀疑我有吞并之心?”陶谦表白说：“这是老夫推心置腹之言，决非虚情假意。”但刘备只是推辞，终不肯接受。糜竺见二人再三辞让，便说：“现在兵临城下，且当商议退敌之策。待事平之后，再议相让不迟。”于是刘备写信给曹操，希望曹操以国家大义为重，撤走围困徐州之兵。恰好这时
吕布攻破兖州，进占濮阳，威胁曹操后方。因而曹操便顺水推舟，卖个人情，接受刘备建议，退兵而去。
陶谦见曹军撤走。徐州转危为安，便差人请刘备、孔融、田楷等入城聚会，庆祝解围。饮宴既毕，陶谦再向刘备让徐州。
刘备说：“我应孔融之约救援徐州，是为义而来。现在若无端据有徐州，天下将以为我是不义之人。”糜竺、孔融及关羽、张飞等皆纷纷劝刘备接替陶谦治理徐州。刘备苦苦推辞说：“诸位欲陷我于不义耶?”陶谦推让再三，见刘备终不肯受，便说：“如您必不肯受，那就请暂驻军近邑小沛，以保徐州，何如?”众人也皆劝刘备留驻小沛，刘备方始同意。
不久，陶谦染病，日渐沉重，便派人以商议军务为名，把刘备从小沛请来徐州。陶谦躺在病榻上对刘备说：“今番请您前来，不为别事，只因老夫病已垂危，朝夕难保；万望您以汉家城池为重，接受徐州牌印，老夫死亦限目矣!”刘备说：“可让您的二位公子接班。”陶谦说：“其才皆不能胜任。老夫死后，还望您多加教诲，千万不能让他们掌握州中大权。”刘备还是辞让，陶谦便以手指心而死。举哀毕，徐州军民极力表示拥戴刘备执掌州权，关羽、张飞也再三相劝。至此，刘备才同意接受徐州大权，担任徐州牧。[2]
于刘备对当时情势的清醒认识。当时的徐州正处于四战之地，野心勃勃的曹操正虎视眈眈、兵锋相向，自不待言。此外，邻近的军阀如
袁术、吕布、袁绍之辈都在凯舰着具有重要战略意义的徐州，怀有兼并野心。这些都是潜在的危险。由此可见，当时的徐州并不是一颗好吃的果子，弄不好就会有惹火烧身的危险。即使徐州牧陶谦真心相让，其部下能否心悦诚服?这些都是很现实、很严重、很迫切的问题，不容刘备不顾虑!实际确实如此，历史上刘备领有徐州不久，即先后受到过曹操、吕布、袁术的进攻，陶谦部下
曹豹也反叛刘备而助吕布。以致刘备在徐州难以立足，最终被逐出徐州，先后依附
袁绍和
刘表。当然，具有重要战略地位的徐州，对于刘备来说，毕竟具有巨大的诱惑力。因而陶谦一死，在外有北海相孔融的支持、内有糜竺及徐州军民的广泛拥戴的情况下，刘备便不失时机地同意接替陶谦任徐州牧，将徐州据为己有。诱惑终于战胜了顾虑。
曹操在经历了家人被杀害的事实之后，变得很不理智，似乎看到了他的血腥残忍的一面，
张闿一人之过，怎么能殃及老百姓呢？这一路，曹操所到之处，都是凶残杀戮，连百姓都不放过，这种做法，让曹操失去了民心，也为刘备的取代徐州打下了基础。