建立汉国
永兴元年(304),刘渊在左国城正式登上汉王位。他以复汉为名,追尊汉后主刘禅为孝怀皇帝,立汉高祖刘邦以下三祖五宗神主而祭之。对于“乱汉”的黄巾军、阉党、董卓及曹氏父子予以口诛笔伐。又大赦境年,建年号元熙,立其妻呼延氏为王后。依据汉制设置百官,以刘宣为丞相,呼延翼为御史大夫,刘宏为太尉,其余部将授官各有差。
既然刘渊公开打出反晋旗号,据并州一隅之地建立政权,与西晋王朝分庭抗礼,故并州刺史司马腾立即派将军聂玄征讨刘渊。两军战于大陵(今山西交城东南),结果聂玄大败。司马腾闻讯大惊失色,慌忙带领二万余户逃离并州。刘渊派遣建武将军、族子刘曜攻下了太原(太原市南)、中都(山西榆次)、屯留(山西屯留南)、泫氏(山西高平)、长子(山西长子)等军事要镇,控制了晋东南地区。永兴二年(305),司马腾又派遣司马瑜、周良、石鲜等率兵讨渊,屯军于离石汾城。刘渊命令武牙将军刘钦等率六军进攻司马瑜,凡四战,皆胜,司马瑜等落荒而去。
为扭转败局,西晋王朝任命刘琨为并州刺史。刘琨不同于司马腾,具有一定的武干谋略。他到任伊始,即以州治晋阳(山西太原西南)为据点,抚循劳徕,甚得人心。刘琨还派人离间刘渊与其统属的其他少数族之间的关系, 使得叛刘渊附晋的“杂虏”达万余落。刘琨的活动,对刘渊构成重大威胁。刘渊遂委任前将军刘景为使持节、征讨大都督、大将军,攻击刘琨于版桥, 结果反为刘琨所败。刘琨进一步巩固了他在并州的政治、军事地位。
面对刘琨的威胁,侍中刘殷、王育进谏刘渊说:“殿下自起兵以来,已近一年,而仍居偏方,王威未振。望能命众将四出,择机决战,灭刘琨,定河东,建帝号,率军南征,攻克长安以为都城,以关中之众席卷洛阳。若如此,成高皇帝(刘邦)的大业,易如反掌罢了。”刘渊大喜,说:“正合我意!”于是在永嘉二年(308)正月,他遣抚军将军刘聪等十将南据太行,辅汉将军石勒等十将东下赵魏,将军事活动扩大到西晋王朝的腹地——中原地区。
随着刘渊影响的扩大,其他反晋势力先后依附于其麾下。上郡四部鲜卑陆逐延、氐酋单征,以及叱咤风云于青徐兖豫等州,给予西晋王朝以沉重打击的东莱王弥,都称臣于刘渊。刘渊均署其官爵,委以重任。当王弥归附时, 刘渊特地派侍中、御史大夫呼延翼郊迎,致书王弥说:“因将军有不世之功, 超时之德,所以隆重迎接。渴望将军之至,我将亲自到将军下榻的馆舍,拂席尘,洗酒爵,敬待将军。”后两人会面,王弥劝刘渊称帝,刘渊十分高兴, 说:“我原以为将军不过是悍勇武将,今日方知将军有勇有谋,堪称孔明。我得将军,如鱼得水!”于是任命王弥为司隶校尉,加侍中,特进。后又进弥征东大将军,封东莱公,负责东线战事。
在刘渊的指挥下,汉国政权在对晋的战争中取得了很大的进展。永嘉二年三月,刘渊占汲郡,控制了顿丘、河内地区。七月,刘渊进据河东地区, 攻克蒲坂(山西永济西)、平阳(山西临汾西南),并将汉国都城由离石南迁至蒲子(山西隰县)。刘渊兵锋所及的河东、平阳二郡的诸县垒壁望风而降。在并州,刘渊亦控制了除州治晋阳以外的诸郡。九月,刘渊又遣王弥、石勒进攻邺城(今河北临漳县),魏郡太守和郁弃城败走。
为了进一步提高汉国政权的政治影响,加强自身的政治权力,永嘉二年十月,刘渊在蒲子即皇帝位,国号仍称汉,改元永凤。任命其子刘和为大将军,刘聪为车骑大将军,族子刘曜为龙骧大将军。仿东汉制,设大司徒、大司马、大司空为三公;又仿晋制,宗室以亲疏为等,悉封郡县王,异姓以勋谋为差,皆封郡县公侯。不久,迁都平阳,改元河瑞。