于是劉備前去拜謁諸葛亮，三顧茅廬才得相見。
公元208年（建安十三年），劉表死后，劉表的兒子劉琮不戰而降。
曹操派兵來征討。劉備聽說以后帶領眾部向南躲避。
徐庶與諸葛亮同行，被曹操追上，徐庶的母親被曹操抓獲。
曹操以徐庶的母親為籌碼，要求徐庶歸降自己。徐庶于是辭別劉備，指心自陳。
徐庶說自己本來想輔佐劉備成就大業，但是母親被曹操挾持，自己內心慌亂，沒法一心一意輔佐劉備，所以自請離去。
劉備也體諒徐庶作為人子之心，放徐庶離去。于是徐庶投奔到了曹操處。
隨后諸葛亮追隨劉備離開，徐庶和石韜投奔曹操。
黃初年間，徐庶任右中郎將、御史中丞，石韜任郡守、典農校尉。
太和二年（228年），諸葛亮率軍北伐，聽聞徐庶與石韜（郡守、典農校尉）官職都不太高，
于是感嘆道：“難道是魏國的謀士太多了嗎，為什么不重用徐庶與石韜兩人呢？”
幾年后，徐庶病逝。有碑留存在彭城。
徐庶故事主要由“行歌自薦”“敗曹仁”“辭劉歸曹”以及“走馬薦諸葛”四部分組成。
與史實相較，《三國演義》中的徐庶故事雖有歷史的影子，但多數卻是后人的附會與想象。
如“行歌自薦”在《三國志》中僅有“徐庶見先主，先主器之”。
“辭劉歸曹”雖有史實為據，卻非被程昱偽造徐母書信騙歸，而是徐母在隨劉備大軍逃亡途中被曹操軍隊捉獲，徐庶不得已而歸曹。
至于“走馬薦諸葛”一事，則想象大于事實，因為徐庶是“見先主”后不久即向劉備推薦諸葛亮，根本沒有所謂的“走馬”再薦一說。
徐庶雖在中的戲份不多，但其卻是開啟諸葛亮傳奇人生最關鍵的一個人物。
徐庶在中盡管是作為諸葛亮的陪襯出現的，但其形象本身卻凝聚著豐富的文化意蘊。
“行歌自薦”蘊含古代底層知識分子積極出仕的心態，“辭劉歸曹”表現出一個人在“忠”“孝”之間何以走不出悲劇的選擇怪圈以其思考，徐庶身上表現出因堅守美德而陷入兩難造成的濃重悲劇色彩。
徐庶故事體現的人生難題，提出但無法解答，但徐庶的形象卻因其具有的悲劇性而顯現出巨大道德力量。
與徐庶有關的歇后語“徐庶進曹營，一言不發”，出自《三國演義》。
徐庶受設計被騙到曹營后，曹操將大軍分作八路，攻打樊城。
劉曄建議曹操派出與劉備關系親厚的徐庶前去樊城勸降劉備。到了樊城，徐庶與劉備、諸葛亮等人一訴舊情，并將曹操即將率兵攻打樊城的事告知劉備等人。
劉備想要勸徐庶留下，徐庶說自己雖然身在曹營，但是不會為他們做任何謀劃。
而且劉備身邊現在已有諸葛亮，不必擔心大業不成。于是劉備沒有再強留徐庶。
徐庶回到曹營，向曹操報告劉備沒有投降的意愿。曹操大怒，即日進兵攻打樊城。