檀道濟年少時就父母雙亡，居喪期間盡孝守禮，侍奉兄姊，以和藹恭敬的品行受到時人的稱贊。
后經過族叔檀憑之引薦，進入謝玄北府兵中劉裕的軍營。
當時正值東晉權臣桓玄把持朝政大權，廢黜了晉安帝，并自己稱帝，建國號楚。
元興三年二月，檀道濟跟隨劉裕于京口舉行起義。
劉裕以打獵為名，暗中聯絡聚集北府兵兵將，斬殺了桓修、桓弘等桓玄親信。
劉裕被推為盟主，傳檄四方，檀道濟也由此邁入劉裕麾下。
“京口起義后，檀道濟及其兄長均跟隨劉裕起兵平定京城，討伐桓玄。”
“檀道濟任征西將軍，并同在劉裕建武將軍府中參謀軍事，在討平魯山之役中。”
“檀道濟擒獲桓振，升任為輔國將軍、南陽太守，同時由于輔佐舉義建有功勛，封為吳興縣五等侯。””
“義熙六年，劉裕帶兵北伐南燕，而盧循乘機起兵反叛，一時之間，眾多賊寇也紛紛響應。”
“郭寄生等即聚集在作唐縣作亂，檀道濟遂被劉裕任命為揚武將軍，天門太守，率軍平定了叛亂。”
“之后，跟隨劉道規討伐桓謙、茍林等，檀道濟為激勵文武官員，沖鋒時身先士卒，所向披靡。”
“當徐道覆進逼京城時，劉道規親自領兵作戰，而檀道濟在其中立下戰功最多。”
“不久升遷為安遠護軍、武陵內史，又任太尉參軍，官拜中書侍郎。”
“同時因前后的功勞封爵為作唐縣男，食邑四百戶，并補官太尉主簿、咨議參軍。”
“劉裕長子劉義符任征虜將軍鎮守京口時，還任檀道濟為司馬、臨淮太守，后又升遷為世子征虜將軍司馬，加冠軍將軍。”
“義熙十一年，檀道濟還參加了進攻襄陽、平定荊州刺史司馬休之的作戰。”
“義熙十二年，檀道濟被任命為先鋒，隨劉裕北伐后秦，一路從淮河、肥水出發，其大軍所到之處，全部告捷。”
“徐州刺史姚掌獻出項城投降于檀道濟，各城也都紛紛望風而降，惟獨新蔡太守董遵不肯屈服。”
“檀道濟攻下其所守城池，擒獲董遵，并殺之。”
“之后又進兵攻克許昌，抓獲后秦寧朔將軍、潁州太守姚坦以及大將楊業。”
“不久，劉裕所率晉軍即攻占了后秦陽城、滎陽，大軍推進到到成皋。”
“當時鎮守洛陽的后秦征南將軍陳留公姚洸派遣信使向長安求援。”
“然而后秦軍中司馬姚禹暗中和檀道濟交結，幫助檀道濟一路攻池掠地，進逼洛陽。”
“俘獲后秦兵士四千余人，有人建議將俘虜全部活埋，堆起一座山丘。”
“但檀道濟認為討伐罪人，安撫平民，才是現在該做的事情。”
“便將被俘兵士全部釋放，遣送回家，也因此讓夷族和漢族都非常感激高興，紛紛前來歸附。”