劉淵，字元海，新興郡（今山西忻州）人，出身匈奴虛連題氏，其父劉豹，在曹操分南匈奴為五部時，被任為左部帥，麾下部曲萬余人。劉淵自幼就拜上黨士人崔游為師，學習儒家經典，又武藝高強，擅長騎射，有文武才。根據曹魏時代的制度，歸附中原的胡人部落首領要派子侄到京師為質（人質）。劉淵因此長期居住在洛陽，對中原的風土人物很是了解。

西晉立國后，越騎校尉的王渾屢次向晉武帝司馬炎談起劉淵，稱其有大才，要預先防范。司馬炎的弟弟齊王司馬攸也建議司馬炎提前清除隱患，但都沒能引起司馬炎的重視，皆不了了之。咸寧五年（279年），劉豹去世，劉淵結束質子生涯，回并州（今山西）接任左部帥。劉淵在自己的轄區“明刑法，禁奸邪，輕財好施，推誠接物”，使得匈奴五部之人紛紛前來歸附，劉淵的勢力愈加壯大。太康十年（289年），西晉改五部帥為五部都尉，負責節制匈奴五部，并以劉淵為北部都尉，后又加授劉淵建威將軍、五部大都督，冊封漢光鄉侯，正式承認了劉淵對南匈奴五部的統治地位。

公元300年，司馬倫誅殺皇后賈南風，逼迫晉惠帝司馬衷禪讓，繼而稱帝。司馬倫此舉遭到各地藩王的反對，藩王們以討伐叛賊的名義起兵，攻入京師，誅殺司馬倫。司馬倫死后，藩王們又互相混戰，八王之亂進入最血腥殘酷的內戰階段，中原腹心之地被打得稀巴爛，數十萬西晉精銳消耗在無休止的內戰中，西晉王朝的實力受到了摧毀性的削弱。

由于中原的戰亂，大量中原人逃亡邊疆，劉淵趁機接收了大量中原漢人，勢力再次增強。因為八王之亂的影響，西晉王朝的合法性受到嚴重質疑，人們開始思念曾經強大穩定的大漢王朝。于是，劉淵以“漢朝劉氏的外甥，與劉氏約為兄弟，兄亡而弟承”的名義包裝宣傳自己，以招撫民心。”

劉淵的政治文化攻勢，很快取得了成效，投奔劉淵的中原百姓越來越多，劉淵已初步具備與西晉王朝分庭抗禮的實力。永興元年（304年），劉淵左國城正式稱帝，建國號漢，即前漢政權。劉淵又追封蜀漢后主劉禪為孝懷皇帝，立漢高帝劉邦以下三祖五宗神主而祭之，時隔82年，大漢的旗幟重新飄揚在中原的天空，是為劉淵復漢事件。

劉淵復漢后，便親率大軍與西晉軍隊作戰，當時晉軍經過八王之亂的消耗，早已孱弱到極點，劉淵所部的精銳騎兵，在中原戰場上如入無人之境，劉淵控制的土地也越來越大。河瑞元年（309年）三月，西晉積弩將軍朱誕叛晉歸漢，并向劉淵建議趁洛陽空虛，直搗洛陽。

劉淵遂以朱誕為前鋒都督，以滅晉大將軍劉景為大都督，率軍進攻洛陽。漢軍攻取黎陽（今河南浚縣），又在延津大敗晉將王堪。但因為后援補給問題，劉淵被迫放棄進一步行動，撤回并州。同年夏，漢軍攻取壺關（今山西黃碾南）、屯留（山西屯留南）、長子（山西長子）等要塞，基本肅清并州境內的晉軍。十一月，劉淵再次派劉聰、劉曜、王彌、劉景等率精銳騎兵五萬余人攻打洛陽，但因守城晉軍死戰，攻城受挫，劉淵被迫撤離洛陽。

河瑞二年（310年）七月，劉淵在平陽皇宮的光極殿去世，其子劉聰自立為帝，并追尊劉淵為漢光文皇帝（意為光大漢文帝基業之義也），劉聰繼承了劉淵滅晉的遺志，于光興二年（311年）六月率軍攻陷洛陽，俘虜晉懷帝。