隋末天下大亂、軍閥割據，要論唐朝在統一天下的過程中，遇到的最難纏軍閥是誰，劉黑闥絕對名列前茅。劉黑闥作為竇建德舊部，在竇建德兵敗被殺、政權覆亡后，率領其舊部卷土重來，連敗羅藝、李神通、李勣等唐軍各路將領，更是擊殺了羅士信等大量將官，簡直比他的舊主竇建德還要令唐朝頭疼。

先歸李密后降王世充，竇建德敗亡后起兵反唐

劉黑闥是隋朝貝州漳南縣人，其年輕時狡詐蠻橫，不僅不事生產，而且嗜酒又好賭博，以致家中十分貧困，經常是缺吃少穿，當時與其同鄉的竇建德便時常給以資助。后來，隋末天下大亂，劉黑闥便也加入了起義隊伍，先是投奔了平原郡人郝孝德，后又歸順瓦崗軍李密成為裨將。

武德元年（618年），遭遇內部分裂本就元氣大傷的瓦崗軍，又與宇文化及統率的驍果軍大戰了一場，結果被王世充統率的洛陽隋軍趁機擊敗，李密被迫于同年十月奔赴長安投奔唐軍，劉黑闥則被王世充俘虜。王世充早已聽說劉黑闥的勇武，遂任命其為騎將，駐守新鄉。

然而，劉黑闥卻十分瞧不上王世充，認為其難成大事，遂在不久后便率部逃回河北，轉投了同鄉好友竇建德（《新唐書》則說是被李勣擊敗俘虜后投降竇建德）。竇建德大喜過望，遂任命其為將軍，并封漢東郡公，此后多有戰功，軍中稱作“神勇將軍”。

武德四年（621年），李世民率兵東攻王世充，竇建德率軍救援，因輕敵兵敗被俘，其所建立的夏政權隨之滅亡。當時，夏國左仆射齊善行分發錢財將士兵遣散，劉黑闥便也躲回了老家，靠著種植蔬菜養活自己。

同年七月，唐高祖李淵下令將竇建德斬首，又強征竇建德舊將范愿、董康買、曹湛、高雅賢、王小胡等人至長安，擔心自身安危的范愿等人遂決定起兵反唐，他們占卜后得知奉劉姓之人為主能夠成事，于是先找到了竇建德舊將劉雅，但被其所拒，于是又找到了劉黑闥。

劉黑闥得知范愿等人來意后，遂聯手眾人招募百十號人，攻破漳南縣城，又擊敗并斬殺了率兵前來平叛的貝州刺史戴元祥和魏州刺史權威，并接收了對方的武器裝備和余部兩千余人。七月十九日，劉黑闥于貝州漳南設壇，祭奠竇建德，自稱大將軍，正式起兵反唐。

擊敗唐軍各路兵馬，僅用半年恢復竇建德地盤

竇建德雖然敗亡，但勉強也算是一位極出色的義軍領袖，其統治河北期間，德勤政務、恢復生產，使得亂世中的河北“境內無盜，商旅野宿”，因而頗得民心。因此，劉黑闥起兵之后，竇建德的舊部便紛紛殺死唐朝官吏，響應他的起義。

武德四年（621年）八月，劉黑闥攻陷歷亭，屯衛將軍王行敏戰死。九月，唐朝為了平定劉黑闥，命令淮安王李神通率領關內大軍，在冀州與幽州總管羅藝合兵，又征發邢、洺、相、魏、恒、趙等州兵眾共計五萬多人前往平叛，結果在饒陽反被劉黑闥所敗，兵馬和軍需物資損失三分之二。

十月，劉黑闥攻陷瀛州，抓獲刺史盧士睿，后又攻陷觀州。十一月，劉黑闥再陷定州，殺死總管李玄通。十二月，劉黑闥又攻陷冀州，殺死總管麹棱，隨后又在宋州擊敗了左武候將軍李勣，并生擒了薛萬均、薛萬徹兄弟。

眼見劉黑闥的勢力越來越大，甚至大有聯手突厥頡利可汗的趨勢，唐朝大為震動。為了徹底平定叛亂，唐高祖李淵于十二月十五日派秦王李世民、齊王李元吉征討劉黑闥。結果，還不等唐軍趕到，劉黑闥便于數日內連下邢州、魏州、莘州，并殺了魏州總管潘道毅。至此，劉黑闥僅用半年時間，便基本恢復了竇建德原本的地盤。

與李世民大戰于洺州，兵敗后被迫逃亡突厥

武德五年（622年）正月，劉黑闥于相州自稱漢東王，定都洺州。與此同時，李世民統率的平叛大軍亦抵達獲嘉（今屬河南），劉黑闥初戰失利后，遂放棄相州而退守洺州。與此同時，奉命南下夾攻劉黑闥的羅藝，亦率兵自幽州南下至鼓城（今河北晉縣）。

為免兩線作戰，劉黑闥命范愿率兵駐守掐州，自己則親率主力北上迎擊羅藝，后因范愿告急而被迫派其弟劉十善和張君立率兵萬余迎戰羅藝，自己則率兵返回洺州。結果劉十善和張君立被羅藝擊敗，洺水縣人李去惑則占據洺水城降唐，李世民派彭公王君廓率1500騎兵協助其守城。

二月，劉黑闥還攻洺水城，李世民三次出兵增援，皆被劉黑闥率軍擊退。李世民無奈命令王君廓突圍，同時改以行軍總管羅士信率200士卒入城堅守。不久，劉黑闥于城墻東北修成甬道后攻城，猛攻八晝夜后攻陷洺水城，羅士信被殺。

同時，羅藝亦先后奪回定、欒、廉、趙四州之地，與李世民在洺州會和。

三月，李世民與羅藝在洺水以南扎營，并分兵駐守洺水以北。劉黑闥多次挑戰，李世民始終堅守不出，挫敵銳氣的同時，李世民又另派奇兵斷其糧道，冀、貝、滄、瀛等州的水陸運糧舟、車，皆被唐軍沉焚。

李世民料定軍糧斷絕的劉黑闥必定急于決戰，于是命人于上游截斷洺水。三月二十六日，劉黑闥果然率兩萬步騎南渡洺水，李世民先遣輕騎出戰，繼而親率精騎擊破劉黑闥馬軍，乘勝以馬踐踏其步兵。

雙方激戰一日，劉黑闥落入下風，而李世民又派人掘開河道，河水迅猛而下，劉黑闥軍遂潰敗，萬余人被殺，數千人淹死，劉黑闥與范愿率殘部逃往突厥。

借助突厥之兵卷土重來，迫使唐朝三次換帥

武德五年（622年）六月，劉黑闥自突厥借兵后卷土重來，進犯山東，率兵攻打定州，其舊部亦紛紛來投。唐高宗遂命淮陽郡王李道玄為河北道行軍總管，與原國公史萬寶前往討伐。

九月，劉黑闥攻陷瀛洲，殺死瀛州刺史馬匡武，東鹽州人馬君德以東鹽州歸附劉黑闥。

十月初一，李淵又派齊王李元吉為統帥，率兵進討劉黑闥。然而唐軍卻接連戰敗，貝州刺史許善護戰死，觀州刺史劉君會投降，李道玄也因和史萬寶不和，孤軍深入戰敗陣亡。

十一月初三，劉黑闥再破滄州。初七日，李淵被迫第三次換帥，改以太子李建成取代李元吉。

十二月，劉黑闥在攻破恒州，殺死刺史王公政后，又攻魏州，與李建成、李元吉相持于昌樂。太子李建成督兵進討，唐軍這才扭轉局勢、節節取勝，劉黑闥先后在館陶和永濟渠兩次遭遇慘敗，在唐軍追擊下一路潰逃。

武德六年（623年）正月，劉黑闥逃至饒陽，身邊只剩下了一百多騎兵。劉黑闥任命的饒州刺史諸葛德威邀請劉黑闥入城休整，借機將其抓獲，送至李建成面前。二月，李建成在洺州將劉黑闥及其弟劉十善一并斬首，山東遂被平定。