公元195年春，缓过劲来的曹操，立刻兴兵再次讨伐吕布。亲自进攻当时吕布驻军山阳的邻城定陶，并派曹仁攻打句阳，以期达到孤立吕布的目的。结果成功迫使吕布后退。曹操的战略意图非常明确，就是占据济阴郡，分割陈留张邈叛军和吕布军，然后再各个击破。攻击的重点，就是叛军心中倚仗的吕布军主力。曹操对形势看得很清楚：只要能击败吕布，重新获得兖州各郡县的拥护绝非难事。
识破曹操计谋的铁毅，当然不会让曹操全得兖州，取得可以和自己较量的资格。立刻率军南下，进入洛阳。就在吕布与曹操激战的时候，铁毅命令总督豫司的赵云，带精兵一万，攻击考城，自己带主力一万五千人，沿黄河故道南岸进攻浚仪。南北对进，准备将陈留郡沿黄河故道，拦腰斩断，一举占领陈留。张邈的部队，注意力都在济阴郡方向。对于赵云的进攻，猝不及防。考城不到千人的兵力，怎会能挡住赵云军前进的步伐。慌忙从陈留，和济阳前线调兵来增援外黄一线。
这时浚仪方向打响，浚仪小城也只有不到千人，根本就防守不住。浚仪一下，陈留郡的治所陈留，立刻就暴露在并州军的兵锋之下。张邈又慌忙调动部队，加强陈留的防卫力量。并州军却没有来攻陈留，突然转向进攻小黄。小黄也兵力不多，被并州军攻下。并州军主力与赵云部对外黄形成夹击之势。从济阳前线撤回的部队，又被我军骑兵半路突袭，伤亡、被俘无数。至此有两万大军的陈留张邈，顾头顾不住腚，完全被并州军控制。
暴怒的曹操，在成功迫使吕布军后退后。对谋士道：“好个铁中棠，这不是趁火打劫吗！我欲伐之！”谋士程昱谏道：“明公，切不可如此。吕布若是豺狼，铁毅就是猛虎。同时与豺狼和猛虎两面作战，不是自寻死路吗？再者，铁毅前番袭取豫州，攻击郭贡，实则是帮了我们，要不是甄城也不能轻易夺回。并州军内有智谋之士，外有猛将精兵，兵力雄厚强悍，只可为援，不可为敌啊！我们现在就有万余兵，再无后援。并州军光在豫司两州，就有屯军五万，我们根本不能力敌！可差人加强济阴的防守，让人去联络铁毅，摸清并州军的意图再说！”曹操多明白啊！一听就压住了火，人家说的对呀！惹祸了铁毅，人家联合吕布，趁势就把自己收拾了，人家拳头大呀！
谋士满宠出使并州，铁毅说的这个客气呀！道：“孟德公，乃当时豪杰，吕布是反复小人，张邈是跳梁小丑，我攻取陈留，完全是为了帮助孟德公剿平叛乱。我们两家应该结盟，我攻击张邈，曹公驱逐吕布，共享兖州。”铁毅一番话，就打发了满宠，曹操心中不满，也没有办法，就忍了。
胆小而不会用兵的张邈，又从各县调兵，坚固陈留防御。正好，让铁毅分兵攻取各县。铁毅军主力，强攻拿下外黄，彻底打通了两军的联系。命赵云带5000骑兵，驻扎在外黄，即防曹操，又防吕布。自己带两万主力，开始围困陈留。张邈坚守不出，铁毅分兵五千，攻略陈留诸县。
陈宫劝谏吕布：“将军，如今铁毅与曹操联合，攻伐陈留，陈留危在旦夕。我军不救，那就是唇亡齿寒的下场。”吕布听从陈宫的建议，让大将派薛兰，李封屯兵巨野，监视曹操。自己带主力，准备偷偷攻击铁毅。不料计谋被曹操谋士程昱，和铁毅的谋士荀攸同时识破。吕布惨败，赵云和陈到，在虞县设伏，打得吕布大败而回。曹操则趁吕布主力不在，全力攻击巨野的薛兰李封军，薛兰李封军被曹操军主力围攻，战事很快就演变成了一场屠杀，薛李全军被歼——曹操对吕布取得了重大胜利。
赵云军击退吕布后，先后又攻取，襄邑、己吾、两县。主力分出的高顺部，又先后攻下了尉氏、扶沟、圉县三县。自此，盘踞在陈留和雍丘、狭小地域的张邈部，被完全包围孤立。雍丘和陈留，有一万三千多兵力，城池坚固，粮食储备充足。铁毅并不强攻。而是趁着曹操趁胜追击吕布时，分兵攻取，陈留北部的济阳、东昏、封丘、平丘、长垣、酸枣六县。
吕布败退后，吕布与陈宫部会合，聚集到一万多部队。两人一合计，决定打敌人一个措手不及，于是转身又来战曹操。曹操没想到吕布回来的这么快，之前已经让各部队分散出去收集粮草去了，驻扎在巨野的中军只有一千来人。仓促间，曹操大胆的采取了“空城计”，把全部的一千人统统列阵于营外虚张声势，吕布陈宫观察到曹操大营西边有个大堤，南边有大片的树林，又见曹操的有恃无恐状，料想对方肯定有伏兵，便就地扎营，着力于巩固防御阵地，不敢贸然进攻。被曹操的虚张声势镇住。
曹操当晚连夜调回了大量的部队，全部埋伏到大堤下，作好了打败吕布军的准备。而吕布得到报告，才知道曹操昨天的举动不过是虚张声势而已，心里很后悔，第二天一早便主动进攻。他大模大样的率领骑兵直接突击堤上的曹军中军，结果曹军伏兵大出，吕布军出其不意，大溃，退回本阵才勉强稳住了阵脚。晚上，由于害怕在与曹军的决战中被全歼，吕布便连夜逃走，与陈宫一起，放弃了兖州，投靠徐州的刘备去了。
此时，铁毅军突然突袭东郡的白马，占据了这个战略要地，捎带又攻取了燕县。曹操再次暴怒，写信指责铁毅，背弃盟誓，偷袭东郡两县。这次曹操的火更大，因为东郡是他的发家之地。程昱劝阻，满宠又来交涉。铁毅道：“孟德太小气了吧！白马太重要了，我不能还，我拿鲁国来换，六县换你两县，总成了吧！这还不够朋友！”满宠问道：“可当真！”铁毅当即就写下了文书，交与满宠，还告诉他，不出三日，撤光鲁国的驻军。
满宠又喜忧忧的走了，回去给曹操一讲，曹操道：“伯宁啊！你又上了铁中棠的当了！”满宠道：“曹公，我怎么又上当了！”曹操道：“铁中棠真世之枭雄也！当今北方，以并州实力，唯忌惮冀州本初。白马是河防要隘，占据白马，就能遏阻黄河渡口。与濮阳对峙，保住黄河沿岸的膏腴。鲁国六县，对于并州，是条鸡肋啊！加在徐、兖二州中间，是块飞地，易攻难守。就这，以铁毅的为人，决不会为鲁国留下，一点元气，不信你去看！”果然，满宠去接收，铁毅几乎将鲁国不多的百姓，全部迁完，全部迁到人口少的颖川河南尹诸县。除了死活不肯走的豪强地主。曹操是个明白人，铁毅也给足了自己面子，就不再与铁毅纠缠。分兵平定了叛变的诸郡县。
铁毅围城三月，麦熟季节。铁毅就挑选了500名大嗓门的士兵，跟着铁毅喊城。铁毅讲：“孟卓（张邈的字）啊！你还是投降吧！北方的诸侯，谁还敢来救你，收留你！你得罪了本初（袁绍的字），反叛了孟德，本初和孟德是联盟关系！这两个人的势力，遍布北方，谁敢来收留你！只有我铁毅敢收留你！我保证你和你的家小毫发无伤！只要你不背叛我铁毅，除非我铁毅也死了，否则我不会让任何人伤害你！你只不过换个地方做太守，怎样！”
铁毅休兵三天不攻，张邈没有反应。第四天，并州军开始攻城。刚组建的攻城军，浪费了大量的攻城器材，并州军没有攻下。城上伤亡惨重，千余人阵亡。铁毅第二次喊城：“孟卓啊！你不相信我铁毅，那么，我给你写下免死文书如何！”张邈不答，并州军第二次大规模攻城，连攻两天，霹雳蛋和箭矢如雨，城上又伤亡了两千余人。铁毅第三次喊城：“孟卓，最后一次机会了，你再不投降，攻城将再不会停歇！”张邈仍不答。
并州军开始再次攻城，这次，铁毅驱使降兵五千余众，拼死攻城，降兵连攻三日，伤亡超过三千余人，城上守军，在攻城部队密集的箭矢火力掩护之下，也伤亡超过了两千多人。铁毅将降兵撤下，命攻城军掩护，调集精锐部队三千人，从三面抢城，激战一天。守军发生哗变，城破。张邈自尽。铁毅攻下陈留，命令厚葬张邈，保护张邈家人的生命和财产安全。铁毅安葬张邈亲祭，曰：“孟卓呀！孟卓！是你的性格杀死了你！你忍受不了屈于别人之下，不能相信，与你从小玩到大的孟德，让你相信我，你是宁死也不信啊！”铁毅的厚恤，得到了陈留望族，和张邈旧部的拥戴。
铁毅占据陈留郡，放弃了鲁国飞地，终于使并州势力的L型纵深，有了点改善。铁毅将降兵万余人精减整编为六千人，有家室的，精锐的编了1千治安军，余者编为5000屯军，调防汝南。又从汝南调来5000屯军，驻防陈留。部队对调，最利于安定。为了加强防守，和建立并州势力的有机联系。铁毅又作了三件事，第一，兴建水师，调冀州降将，原来驻屯在河阳的都督从事赵浮、成焕在旧部挑选精锐千人，组建第一支水师营。驻防延津渡，巩固河防，控制领地内的黄河运输。第二，调善于防守的刘延，出任陈留太守，在白马筑城屯兵，监视袁曹二军。第三，就是在河南修筑两纵，三横的道路。其中关键的两纵、由州策划修建，其余三横由郡级承当。修建的重点就是，保证并州和豫州的联系。
一纵从河南尹的成皋起，与并州上党郡的高都起，经葵城、州县、到平皋的主干道隔河相望。扩建两岸码头，增加交通运量。成皋起后，穿越河南尹的京县、中牟、开封，进入豫州陈留后转向向南，经圉县、扶沟、扶乐、长平、陈县、项县、汝阴、止于慎县，全程13县。
另一纵，起于河南尹的巩县，经京县，密县，新郑进入豫州，经长社、颖尹、临颍、洇（去因加隐）强、召陵、定颍、上蔡、平舆、新蔡到期思，全程14县。为了修这条路，上党、河内、要配合修起于谷远，沿沁水南下，经际（去示加奇）氏、端氏、阳阿、沁水、波县到温县渡口的路，河南尹得修温县对岸渡口码头到巩县的路。
三横由北向南，第一横起于函谷关，经谷城、洛阳、偃师、巩县、成皋、荥阳、汜水关、卷县、原武到白马，九县两关。
第二横，起于轮氏，经阳城、阳翟、颍阳、颍阴、许县、新汲、长平、陈县、新平、武平、苦县、谯县、鄼县、临睢、沛国到相县，沿途16县。
第三横，起于昆阳，经定陵、郾县、召陵、征羌、汝阳、项县、宜禄、新阳、宋国、思善、城父、山桑、蕲县、谷阳、洨县、止于虹县，沿途17县。
这五条路属于必须按期完工的，其余郡县内的公路，由各郡量力，根据情况自筹资金修建。政府不管，补助梁国一点钱粮，梁国要贯穿境内治所与沛国和陈留边县，连通的道路。
以后不是跨郡的主干道，连通十县以上，形成超过500里以上的公路，政府不再管了，郡县自己修建，但修建公路的里程，要列入郡县官的政绩考核。是该放点权了。只要这三件事办成了，豫州和司州，就能贯穿连接，防御力大大增强，对于豫州经济恢复，也将有不可估量的作用。