晋惠帝永兴元年（甲子、304）刘渊堂祖父右贤王刘宣对他的族人说：“自从汉朝灭亡以来，我们的单于都是徒有虚名，不再有一寸土地。其余的王侯，地位却降到百姓一样。现在我们大家虽然衰落，但也在两万人以上，怎么能伏首贴耳地充当役夫，这样匆匆地过了一百年！左贤王英俊威武超凡绝伦，上天如果不想使匈奴兴盛，也就一定不会白白生出这个人。现在司马氏骨肉亲人互相残杀，四海动乱如同鼎中沸腾的开水，光复呼韩邪的事业，这正是时候！”于是互相谋划，推举刘渊为大单于，并派他的党羽呼延攸到邺城去告知他。

刘渊告诉司马颖，请求回乡参与葬礼，司马颖不允许。刘渊让呼延攸先回去，通知刘宣等人让他们召集五部匈奴以及各小民族，声称援助司马颖，实际打算背叛他。等到王浚、东嬴公司马腾起兵，刘渊对司马颖说：“现在幽、并二州的镇将猖獗，率众十多万人，恐怕不是禁卫军和附近郡县的军队可能抵御的，我请求为殿下回去召集五部匈奴人马赴救国难。”司马颖说：“五部匈奴的人马，真能够发动吗？即使能发动他们，鲜卑、乌桓，也不是轻易能阻挡的。我想侍奉皇帝还归洛阳，避开他们的锋芒，再慢慢向天下发布檄文，用正义制服邪恶的道理说服他们。您认为怎么样？”刘渊说：“殿下是武帝的儿子，又对王室建立了大功勋，威严恩德远近闻名，四海之内，有谁不愿意为殿下拼死尽力呢？有什么难以发动的！王浚是小人，东赢公是关系疏远的皇亲，怎能与殿下争比高低呢！殿下如果离开邺城宫殿，那就是向人示弱，洛阳也不能进去了，即使到了洛阳，殿下也不会再有威势权力了。希望殿下抚慰勉励部众，使他们安定镇静，我请求为殿下用两部匈奴摧毁东赢公，三部匈奴去杀王浚，高悬二个小人的头颅，指日可待。”司马颖非常高兴，任命刘渊担任北单于、参丞相军事等职。

刘渊到左国城，刘宣等人给他封上大单于的称号，二十天之间，有了五万人，建都离石县，封刘聪为鹿蠡王。派左於陆王刘宏，带领五千精锐骑兵，会同司马颖的部将王粹阻击东嬴公司马腾。王粹已被司马腾打败，刘宏无功而返。

王浚、东嬴公司马腾联合军队去攻打王斌，把王斌打得惨败。王浚让主簿祁弘担任前锋，在平棘县打败石超，祁弘乘胜进军。侦察骑兵到了邺城，邺城城里非常震惊，文武百官四处奔逃，士卒离散。卢志规劝司马颖侍奉惠帝返回洛阳。当时还有一万五千武装士卒。卢志连夜部署分派，到早晨将要出发，但程太妃留恋邺城不愿离开，司马颖也犹豫不决。一会儿大家溃散，司马颖于是连忙带领军帐下的几十个骑兵与卢志侍奉着惠帝登上犊车，向南逃往洛阳。仓猝得君臣上下都没有带钱，中黄门行李中藏着三千私人的钱，诏令借他的这些钱，在路上买饭，夜里惠帝就用中黄门的布被，吃饭时使用瓦盆。到达温县，将要拜谒祖宗陵墓，惠帝把鞋走丢子，就把侍从的鞋要来穿上，到陵墓前流着泪下拜。过黄河时，张方派他儿子张罴带领三千骑兵，用自己的车乘侍奉迎接惠帝。行到芒山下，张方自己率领一万多骑兵迎接惠帝。张方将要叩拜谒见，惠帝下车止住了他。惠帝回到皇宫，四处奔散的官员有少数也回来，文武百官大致齐备。辛巳（八月十六日），宣布大赦。

王浚进入邺城，士卒们狂暴抢掠，邺城中死了很多人。派乌桓人羯朱追击皇太弟司马颖，追至朝歌，没有追上。王浚回到蓟城，因为鲜卑大多抢劫人家妇女，就下令：“胆敢有挟藏妇女的人，斩！”结果因此被沉入易水的妇女有八千人。

东赢公向拓跋猗求兵攻打刘渊，拓跋猗与弟拓跋猗卢联合在西河进攻刘渊，把刘渊打败，与司马腾在汾东结盟后回师。

刘渊听说皇太弟司马颖离开邺城，感叹说：“不采纳我的话，反倒自行奔逃溃散，真是奴才！但我与他有言在先，不能不救他。”打算发兵攻打鲜卑、乌桓，刘宣等人劝谏说：“晋朝人像奴隶一样使用我们，现在他们骨肉亲人之间互相残杀，是上天抛弃他们而让我们光复呼韩邪的事业。鲜卑、乌桓，是我们的同类，可以作为后援，怎么能攻打他们呢？”刘渊说：“好！大丈夫应当作汉高祖、魏武帝，呼韩邪哪里值得效仿呢？”刘宣等人叩头行礼说：“我们是想不到啊。”

荆州的军队擒获并杀掉张昌，他的同党都被诛灭三族。

李雄认为范长生有名气威德，被蜀地百姓所看重，想自己作为臣下迎奉他为国君，范长生不同意。各位部将坚持请求李雄登上王位。冬季，十月，李雄即位为成都王，宣布大赦，改年号为建兴。废除晋朝法律，自建法律七