曹操除了殺死了呂布、陳宮、高順等呂布軍重要人物后，對待其余的部眾皆是以禮相待，很快這些消息就通過劉備、關羽等人傳了出去。
聽聞了曹操禮待了陳群父子甚至給了他們高官做，張遼自覺不是呂布的親信，而且手下精騎也作戰勇猛，便自縛雙手率領著他的軍隊來曹營投降。
中軍大帳。
曹操樂呵呵地看著跪在地上的張遼，挑眉問道：“你就是張文遠？”
“正是罪將。”張遼聲音若洪鐘，甚是威猛。
“我且問你，為何自縛雙手前來投降？”曹操一臉疑惑地看著張遼，心中實在是不解。
下邳城破后，除了當場抓捕的，大多是劉備和降將們游說投營認罪的，還有少數是手下士兵們搜捕抓獲的，可是像張遼一人自縛雙手而來的還是頭一回見到。
“聽聞前尚書令陳紀、紀子群等人，曹公皆禮而用之，故而來降。”張遼倒也干脆，直接說明了來降的原因。
曹操想過張遼會以報效朝廷、曹公霸氣側漏等原因來忽悠自己，卻沒有想到來了個鐵憨憨。
眼珠子咕嚕一轉，他有心想要戲弄一下眼前的鐵漢子，故而裝出了生氣的樣子說道：“陳紀、紀子群等人雖然背叛了我，可是并沒有殺害我手下的士卒，而你張文遠手上可是沾滿了我軍將士的鮮血啊！”
“罪將甘愿伏法，只是懇請曹公放過我手下的兄弟。”張遼嘆息一聲，不再說話只是不住的磕頭。
一旁的關羽一直欲言又止，見曹操對張遼有了殺意，當即站了出來，跪下求情道：“關羽素知文遠乃忠義之士，愿以性命做擔保。”
“哈哈哈……”曹操開懷大笑起來，“我豈不知文遠乃忠義之士，方才所言不過是開玩笑的而已。”
笑罷，他一臉正色地看向張遼：“老夫上疏朝廷，表奏你為中郎將，賜爵關內侯可好。”
張遼瞪大的眼睛，不敢相信自己一個敗軍之將不僅沒有受到任何處罰，更是被曹操表為中郎將，賜爵關內侯。
“文遠，你可滿意？”曹操見張遼發愣，有些莞爾地問道。
“吾必為曹公效死，為朝廷盡忠！”張遼壓下激動的心情，重重地向曹操磕了一個響頭。
很快，搜捕的士兵們就逮住了臧霸。
這臧霸是泰山豪杰，他見就連是張遼都被曹操重用了，當即表示要帶上全部的兄弟一起投靠曹操。
很快在徐州很有名望的孫觀等人都投靠了他，就連是之前背叛曹操的徐翕、毛暉二人也被他說動，一起歸降了曹操。
至此，曹操初步控制了徐州。
第二年，建安四年（199年），曹操派史渙、曹仁擊破張楊舊部眭固，取得河內郡，把勢力范圍擴張到黃河以北。
中軍營帳中，曹操撫摸著用羊皮制作的地圖，看著自己所占領的地盤，輕聲說道：“本初兄，你快要擊敗公孫瓚了吧！馬上就要兄弟反目了嘛？”
消滅睦固后，為了應對之后與袁紹的戰爭，曹操預作布置，命在青州有潛在影響的臧霸等人攻入青州，占領齊（治今山東臨淄）、北海（治今山東壽光東南）等地，鞏固右翼；又命大將于禁屯軍黃河南岸，監視袁軍。不久，張繡聽從謀士賈詡之計，投降曹操，曹操大喜，拜張繡為揚武將軍，解除了后顧之憂。建安四年（199年）十二月，曹操自率軍屯于官渡（今河南中牟北），準備迎擊袁紹。