兴平元年（194年），曹操向东攻打陶谦，派将领武阳人陈宫驻守东郡。陈宫趁机劝说张邈：“现在天下分裂，英雄豪杰同时崛起，您拥有十万人的队伍，处在可以四面作战的地方，按剑雄视天下，是可以做人中豪杰，反而被人控制，不是太卑下了吗？现在本州的军队东征，其地空虚，吕布是猛士，善于作战，英勇无敌，将他接来一同占据兖州，观望天下形势，等候时事的变化好转，这可以纵横一世。”张邈听从陈宫的意见，就同弟弟张超和陈宫等人迎接吕布，请他当兖州牧，占据濮阳，兖州所属郡县一同响应。曹操知道后率领军队攻打吕布，濮阳大姓田氏在城里响应曹操，曹操趁机入城后，放火烧东城门，来激励将士与吕布决一死战。吕布则先派骑兵冲散青州兵，导致曹军阵势大乱，吕布手下骑将抓到曹操问他曹操在哪儿，曹操说骑黄马的那个就是。于是吕布追击骑黄马的人，而放走了曹操。[14]曹操策马冒火突围，烧伤了左掌。[15]此后双方多次交战，相持一百多天。这时发生天旱，又有蝗虫为害，粮食不够，出现了人吃人。吕布将部队移到山阳驻扎。
兴平二年（195年），吕布再次从东缗出发，与陈宫率领一万余人来进攻曹操。当时，曹操部下的士兵全都出去收割麦子了，在营中的不到一千人，难以守住营寨。曹操于是下令妇人们上城寨的矮墙守御，营中不足一千的士兵们全都在营垒边摆出了无所畏惧的样子。曹操营寨的西边有一条大堤，南边有一片茂密深广的树林。吕布怀疑曹操有伏兵，于是说：“曹操多诡诈，我们不要进入伏击圈。”于是，吕布引军屯南十余里。
第二天，吕布再次前来挑战。曹操把自己的一半士兵埋伏在堤后，另一半的士兵暴露在堤外布下阵势。吕布的军队逼近时，曹操才命轻装部队挑战，等到两军厮杀在一起以后，伏兵才登上大堤杀出，步兵与骑兵一齐冲锋，大破吕布的军队，直追到吕布的营寨才返回。吕布当夜撤退。曹操将兖州各城全部收复，吕布东逃投奔刘备。张邈到袁术那里求救，留下张超带着家眷部属驻守雍丘。曹操包围张超，围了几个月，杀了张超和张氏三族。张邈未到寿春，就被他的士卒杀害。
兴平二年（195年），吕布见到刘备后，对其非常尊敬，对刘备说：“我和阁下都是北疆边境的人。我当时见关东军起兵，想要诛杀董卓。但我杀了董卓东出，关东诸将却没有一个接纳我，都想要杀了我。”并请刘备坐在帐中的床上，令妻妾向刘备行礼，酌酒饮食，称刘备为贤弟。刘备见吕布语言无常，表面以为然之，但心里却不开心。[3]
同年七月，因李傕、郭汜的火拼，汉献帝从长安东归，途径河东，下诏书令吕布迎驾。由于吕布的军队没有储备足够的粮食，无法勤王，于是吕布派遣使者上书谢罪。朝廷任命吕布为平东将军，封平陶侯。[18]
建安元年（196年）[19]，袁术率军攻打徐州，与刘备相持于盱眙、淮阴。相持一个月，双方互有胜败。[20]袁术写信给吕布，许诺送上二十万斛大米，诱使其袭击下邳，于是吕布水陆东下，军队抵达下邳西四十里时，刘备的中郎将丹杨人许耽派司马章诳前来迎接吕布，并向吕布透露了张飞和曹豹相争，下邳城内大乱，丹阳兵都在西白门城内等待吕布的到来，于是吕布便大举进军，早晨到达城下。天亮后，丹阳兵打开城门，吕布坐在城门上，指挥军队大破张飞，俘虏刘备的妻妾儿女及其部曲的家眷。[21]此时，刘备为袁术所败逃往海西，饥饿疲惫，向吕布请求投降。[19]吕布又恼火袁术不再运粮来，就准备了车马迎接刘备，让刘备担任豫州刺史，派他驻守小沛。吕布自称为徐州牧。
建安元年（196年）六月夜半时，吕布部将河内人郝萌在袁术的怂恿下发动叛乱，率兵部队攻打吕布治所下邳，城池防守坚固无法攻入，吕布不知道造反的是谁，带领家眷逃往高顺营寨，高顺问道：“将军有所隐不？”吕布回答：“这是河内人的声音。”高顺便猜到造反的是郝萌，于是率部到下邳平叛，弓弩齐发射杀郝萌军，天亮还营。（《册府元龟》则记载吕布与高顺一同前往平叛。[23]）郝萌的部将曹性反正，与郝萌对战，郝萌刺伤曹性，曹性斩断郝萌一臂，高顺乘势斩下郝萌的首级，用床担着受伤的曹性前往见吕布。[20]吕布问曹性此事起源，曹性回答：“郝萌受到袁术的鼓动而造反。”吕布又问：“同谋的都有谁？”曹性回答说陈宫同谋，当时陈宫坐在吕布旁边，脸发红，旁人都察觉到了。吕布因为陈宫是大将，并不追究。曹性又说：“郝萌造反时曾问我可行吗？我说吕大将军神勇不可对抗，没想到郝萌狂惑不止。吕布对曹性说：“你真是个健儿。”让其好好养伤，等曹性伤愈后，让他统领郝萌的余部。[24]
建安元年（196年）十月，袁术派大将纪灵带领步骑共三万多人马征讨刘备，刘备向吕布求援。吕布手下将领说：“将军您一直想除掉刘备，如今可借袁术的手除掉他。”吕布说：“并非如此，袁术如果占据了小沛，就会联合北面泰山一带的部队，我们就会被袁术所包围，我不能不去救刘备啊。”于是领步兵千人、骑兵二百，飞速赶往小沛。纪灵等人听说吕布前来援救刘备，只好收兵，不敢轻举妄动。吕布在离小沛西南一里的地方扎下营寨，派卫士去请纪灵等将领，纪灵等人也请吕布一起饮酒。吕布对纪灵等人说：“玄德，是我吕布的贤弟。如今他被诸位所围，我特意赶来救他。我吕布生性不爱看别人互相争斗，只喜欢替别人解除纷争。”吕布命门候在营门中竖起一支戟，说：“诸位看我射戟上的小支，如一发射中，诸君当立即停止进攻，离开这里，如射不中，那你们就留下与刘备决一死战。”他引弓向戟射出一箭，正好中了小支。诸将大为震惊，夸赞说：“将军您真是有天神般的威力呀！”第二天，吕布又与诸将欢会宴饮，然后各自回兵。