李勣出生于曹州離狐一個富裕家庭，他的父親樂善好施，常赒濟他人。
隋朝末年，徐世勣隨家遷居至滑州衛南客居衛南。
山東、河南等地水旱瘟疫不斷，百姓只能以樹皮或泥土為食。
隋煬帝卻依舊征兵欲伐高句麗，朝廷內外對此多有不滿，各地頻發農民起義。
同年，曹州濟陰一個善使長槍的法曹翟讓因小過犯下死罪，逃亡瓦崗，設瓦崗寨反隋。
十七歲的徐世勣與單雄信等也先后去投，跟隨瓦崗軍一起起義。
徐世勣善謀略，曾向翟讓建言，稱瓦崗附近都是鄉鄰，不宜侵擾，而宋兩州遠離家鄉，且靠近御河，可以劫掠永濟渠上的過往船只以養護軍隊。
翟讓采納了他的建議后，瓦崗軍在一年多時間內就發展至萬余人，成為中原起義軍主要隊伍。
“大業九年，隋朝世族將領楊玄感在隋煬帝出征高句麗期間糾集李密等起兵叛亂，叛亂很快被平定，楊玄感被殺，李密及其部下四處逃亡受阻。”
“大業十二年，李密率部投靠瓦崗寨，建議瓦崗軍先取滎陽，奪取糧倉，再圖進長安二京。”
“在其指揮下，瓦崗軍攻占金堤關和滎陽郡大部縣城，進逼滎陽城。”
“駐守滎陽的隋將張須陀奉命率兩萬余精銳討伐瓦崗寨。”
“翟讓大為恐懼，在李密、徐世勣的勸說下，方同意應戰。”
“最終，李密指揮軍隊大敗隋軍，張須陀戰死。李密在瓦崗軍中威信日重。”
“大業十三年，因信服李密之才，徐世勣與王伯當等勸說翟讓讓位李密，李密隨后自稱魏公，封翟讓為司徒，封徐世勣為右武候大將軍。”
“同年，朝廷令王世充出兵討伐瓦崗軍，徐世勣使用計謀，在洛水兩岸多次擊敗王世充，瓦崗軍最終獲勝，徐世勣被李密封為東海郡公。”
“而后，徐世勣又向李密建議并帶兵攻克了倉城黎陽，開倉放糧，周濟饑民，并因此十天多時間就征募到二十余萬人的隊伍。”
“瓦崗軍壯大后，內部發生爭權的情況，大業十三年十一月，李密設計除去了首設瓦崗寨的翟讓，翟讓舊部與之發生爭斗，混亂中徐世勣脖頸被砍中，身負重傷，李密獲得了瓦崗寨的絕對領導權。”
“為安撫部眾，李密仍令瓦崗舊將徐世勣、單雄信、王伯當分領翟讓舊部，但仍有人如單雄信等不滿李密統領，瓦崗內部已經出現分裂跡象。”
“唐武德元年，隋將宇文化及在江都勒死隋煬帝，自立為帝，率軍北上欲攻占東都洛陽。”
“同年二月，林慮山起義軍首領王德仁在投靠李密后，又截殺了李密心腹左長史房彥藻。”
“五月，李密遣徐世勣討伐王德仁，王德仁戰敗后轉投唐王李淵，而宇文化及也開始兵圍黎陽倉。”
“鎮守在此的徐世勣在城中挖掘地道秘密移軍至城外，與李密率領的援軍一起擊敗了宇文化及，迫使其退兵。”
“與此同時，隋煬帝被殺的消息傳至京城，據守鞏北的隋將王世充等擁立越王楊侗繼位隋帝，并有意招降瓦崗軍。”