于是乎，陶谦只能一面派遣大将救援被曹军围攻的诸县，一面到处求救。
这时，各个诸侯要么自身难保，要么急于扩大地盘，只有和公孙瓒断绝关系的刘备率军来救。
刘备到达之时，曹操却因为兵粮告尽，不得不选择退兵回兖州，来年在做计较。
陶谦感刘备危难之中救自己的恩义，便趁机上表刘备为豫州刺史，屯兵于小沛。
曹操回到兖州之后，第一件事情，便是立起祠堂，为父亲和族人尽孝。
兖州的大名士边让和陶谦是好友，看到曹操在徐州造成的惨无人寰的‘人间悲剧’，心中大怒，便不顾身份的嘲讽曹操道：
“阉狗之后，哪里还有后代？还妄想立祠尽孝，无异于白日做梦。”
此话传到了血气方刚、爱憎分明的曹操耳中，当即下令斩杀边让，以儆效尤。
兖州的世家大族见曹操说杀就杀，一点都不在乎名士，便相互通气，准备另立良牧。
但碍于曹操的兵威之下，只能在私底下悄悄地进行。
武阳人陈宫对着世家大族的代表陈留太守张邈说道：“现在天下分裂，英雄豪杰在各地揭竿而起。
您拥有十万人的队伍，并且在兖州的各郡县中威望很高。
若能登高一呼，反对曹操，是可以做人中豪杰的。何苦现在被人控制，是不是太卑微了吗？
我估计明年曹操的军队定然还会东征徐州，兖州腹地空虚。
我们可以将善于作战，英勇无敌的吕布接来，一同占据兖州，观望天下形势，等候时事的变化好转，便可以纵横一世了。”
张邈听完陈宫的话，心有所动，便命人在兖州各县中寻找吕布。
吕布，本应该是袁绍的手下大将。
但在袁绍率军北上幽州之时，就已经脱离了袁绍。
原来吕布凭借自己精湛的武力，在军中的威望日益增强。
又仗恃自己在壶关下的战功，要求袁绍增加他的军队。
袁绍怎么可能给一个不姓袁的人增加人马呢，遂袁绍不答应。
吕布见袁绍不答应，便让手下的将士到处抢劫和掠夺，从而达到自主扩军的目的。
袁绍知道后，便准备暗中除掉吕布。
吕布感觉不安，便和袁绍辞别，请求回洛阳。
袁绍表面上同意他的要求，并以天子名义任命吕布为司隶校尉，派甲士送吕布去洛阳，但却在暗中给甲士下令，让其除掉吕布。
吕布见袁绍这么痛快，便猜测袁绍可能在打自己的主意，就派人在营帐中弹着筝，自己却悄悄地逃了大营。
半夜时分，那些甲士出动，乱刀砍向吕布的床，数十刀过后，认为吕布已经死了，便退走了。
吕布因为提前逃走而逃过一劫。
这时的张扬已经被韩成击败了，吕布无处可去，便带领众人南逃到陈留，毕竟吕布和陈留太守张邈的关系非同一般。
陈留太守张邈正派人在兖州到处寻找吕布。
却见吕布突然自己送上门来，高兴地对着吕布说出了自己等人的计划，吕布一想，好啊，让自己做州牧，便欣然答应了。
到了次年四月份，曹操再度率领大军南攻徐州。
这时，陈留太守张邈与其弟原广陵太守张超，陈宫等人同时背叛曹操，迎吕布为新的兖州牧。
曹操听到这个消息后，只好班师回兖州，一是平叛；二是和吕布争夺兖州。
张邈并没有立即起兵，反而先是派遣自己的党羽刘翊告诉留守在兖州鄄城的主官荀彧：“吕布将军前来帮助曹州牧进攻徐州的陶谦，文若应该赶快供给他军粮。”
在众人对此感到十分疑惑之时，心思灵敏的荀彧便已经猜到了张邈将要背叛曹操的事情。
遂只能先一边稳住张邈，另一边却立即部署军队进行防守，并急速地将在濮阳县的东郡太守夏侯惇召到鄄城而来。
夏侯惇赶到鄄城以后的当天夜里，就诛杀了几十个参与叛变的官员，鄄城的情势才稳定下来。
夏侯惇的杀戮，让吕布等人知道了事情暴露的消息，便先下手为强的占据了濮阳县。
当吕布占据了濮阳县，凭借着张邈和陈宫在兖州的人脉关系和威望。
一时间，兖州郡县中的世家大族纷纷起兵反抗曹操，响应吕布。
只有鄄城、范县、东阿县三县没有响应之声。
由此可见，刘备，曹操想谋陶谦的徐州，而吕布等人却想谋取曹操的兖州。