拥晋以图发展

刘豹死后，晋武帝命刘渊代为左部帅。刘渊由洛阳回到了并州。他摆脱了人质的地位后，在自己所辖的部族和地区施展政治才能，史称他“明刑法， 禁奸邪，轻财好施，推诚接物，五部俊杰无不至者。幽冀名儒，后门秀士， 不远千里，亦皆游焉。”从而为他以后成为匈奴族的主要首领打下了坚实的基础。

太康十年（289），西晋改五部帅为五部都尉，刘渊任北部都尉。杨骏辅政期间，又以刘渊为建威将军、五部大都督，封汉光乡侯，正式承认了刘渊在匈奴五部中的领导地位。元康末年，刘渊坐部人叛逃出塞，被免官。时成都王颖镇邺，表请任刘渊为行宁朔将军、监五部军事，使其脱离五部，在邺城任官。

刘渊被免官和仕宦于邺城，是西晋政权出于“非我族类，其心必异”的民族歧视的心理，企图限制刘渊势力的发展、防患于未然的措施。这一措施引起了长期以来受到中原封建王朝的排斥打击的匈奴上层贵族的不满。当时正值司马氏诸王相攻，“惠帝失驭，寇贼蜂起”，西晋政权对少数族的控制能力大大削弱。刘渊的从祖，原北部都尉、左贤王刘宣遂召集匈奴五部上层

贵族，对他们说：“过去我们的祖先与西汉约为兄弟，同甘共苦。自汉亡以来，魏晋更替，我们的单于却徒有虚号，而没有国土可言；至于诸王侯，地位降同编户齐民。现在司马氏骨肉相残，四海鼎沸，正是我们振兴国家、恢复先祖大业的大好时机。左贤王刘渊才能和气宇超众拔群。上天如果不是想要光大尊崇单于，绝不会白白地降生此人。”于是众人密谋，共同推尊刘渊为大单于。又派呼延攸到邺城，将众人之谋告知刘渊。刘渊遂请求成都王颖， 佯称回部落参加葬礼。颖不答应。刘渊无奈，只好让呼延攸先回去，告诉刘宣等人纠集五部，再招聚宜阳附近的诸胡族，表面上声称助成都王颖讨逆， 实则为以后起兵做准备。

刘渊既然一时不能回部落，只好暂时依附于司马颖。时司马颖废太子覃而自兼皇太弟，又任丞相，在邺城形成与拥戴惠帝的东海王越相对峙的政治中心。刘渊在表面上的恭顺，使他赢得了成都王颖的信任，任命他为太弟屯骑校尉。后来，东海王越率洛阳禁军讨颖，颖又以刘渊为辅国将军、督北城守事。东海王越与成都王颖战于荡阴，越大败，成都王颖取得了挟天子以令诸侯的地位。刘渊也因此迁冠军将军，封卢奴伯。

成都王颖虽取得胜利，但地位并不巩固。东海王越系统的并州刺史东赢公司马腾、安北将军王浚发兵讨伐成都王颖。面对强敌，刘渊劝告颖说：“现在二镇强盛，有众十余万，恐怕宿卫军队及邺城附近的士庶难以抵御。我愿为殿下返回五部发兵，以赴国难。”颖说：“五部发兵是否能确保呢？即使可以发兵，司马腾和王浚手下的鲜卑和乌丸骑兵强悍善战，抵挡其进攻又谈何容易！我打算奉惠帝返回洛阳，避强敌锋锐，然后传檄文于天下，以其叛逆之罪令四方共讨之。你看如何？”刘渊回答说：“殿下是武皇帝之子，有特殊功勋于王室，素有威信恩德，享重名于四海，谁不想为殿下捐躯献身？ 发四方之兵是易如反掌。王浚区区小人，司马腾是宗室疏属，怎能与殿下抗争？！但殿下一旦离开邺城，示弱于人，是否能抵达洛阳呢？即使到达洛阳， 恐怕殿下也难以掌有实权。光凭一纸檄文，谁又肯事奉呢？况且东胡虽强悍， 较之匈奴五部却稍逊一筹。但愿殿下能够勉励安抚士兵，镇之以静，我可以为殿下用二部击败司马腾，用三部打垮王浚，二人之首级指日可取。”成都王颖听了这番话，非常高兴，遂拜刘渊为北单于，参丞相军事，派遣他回部落纠集五部，以抵御司马腾和王浚的进攻。

刘渊回到左国城，刘宣等人尊他为大单于。短短二十天，刘渊就招集了五万余众，集中于离石（今山西离石县）。

这时，王浚派部将祁弘率领鲜卑兵攻打邺城，司马颖迎战失利，遂挟惠帝南奔洛阳。刘渊闻讯，说：“司马颖不听我的劝告，稍败就向洛阳奔逃， 真是个奴才。但我与他先有许诺，不能不去救援。”于是命令右于陆王刘景、左独鹿王刘延年等率步骑二万，准备进攻鲜卑。刘宣等人再三进谏说：“晋朝不讲道义，视我们犹如奴隶，右贤王刘猛因此不堪忍受而率众反抗。只因当时晋朝纲纪未弛，遂使右贤王兵败，功业未成。这是我们的耻辱。如今司马氏骨肉相残，这是天厌晋德，授之于我。你躬行积德，正应当带领我们的部族去恢复祖先的大业。怎么能攻伐可以引为外援的鲜卑、乌丸而拯救仇敌呢？上天命我灭晋，不可违背。天予不取，反受其咎，愿单于不要再迟疑了。”

刘渊深以为然，激愤地说：“对！大丈夫在世，当如崇山峻岭，岂能甘为蝼蛄！哪有帝王之运长在一姓之理？大禹出自西戎，周文王生于东夷，他们之所以为王，只是有德罢了。而今我有部众十余万，皆能以一当晋十人，

击鼓征讨腐败的朝廷，必将摧枯拉朽。上可以成汉高祖一统天下大业，下可以像曹氏拥有半壁河山。只是恐怕晋人未必都能拥戴我。不过，汉朝长期统治天下，恩德深入人心，故刘备树汉家旗号，以一州之地而能与曹氏抗争。我是汉朝刘氏的外甥，与刘氏约为兄弟，兄亡而弟承，难道不可以吗？姑且称国号为汉，追尊汉后主，以招抚民心。”于是刘渊迁都于左国城，远方来归附的人有数万之多。