匈奴眼下的目标就是上党壶关。刘渊誓要拿下壶关，使刘渊本部和王弥、石勒部连成一片。他命刘聪、王弥、石勒三巨头同攻壶关。
石勒、王弥接到“皇命”，各率三万大军，火速从井陉绕道进入并州，大军压境上党。上党的壶关是当时并州的一个最重要的出太行的关隘，石勒、王弥直接从东面攻打壶关，难度极大，所以绕道而行。当时山西出太行的重要路线只有最南端的壶关、中路的石家庄井陉和北路的飞狐关。所谓太行八陉，就是河流切穿太行山，于是形成几条穿越太行山的峡谷，他们是由山谷自然的脉络走势形成的路，因为上党将刘渊与石勒分隔开，所以只有壶关有强军。
这样，刘聪、王弥、石勒各率三万军队，大军十万压境壶关。
刘渊为了挟制刘琨，再次派人重金说服盘踞晋阳北面山区的刘虎，请他同时起事，在晋阳身后攻击刘琨。
刘聪骑兵、王弥步兵、石勒步骑一共十万人马同攻壶关，壶关报急。
在刘舆的建议下，东海王改变战略，决定在壶关与刘渊汉国一决雌雄。命刘琨全力来援壶关。又派王旷带领数万步兵进援壶关。晋汉第一次大决战拉开帷幕。
晋廷本来想在两个战场上分别与刘渊和王弥、石勒联军决战，可是由于却错过了先机。如今前汉国三巨头同攻壶关，打乱了东海王原有的战略部署。可是晋廷仍然瞧不起石勒、王弥的流民部队。按东汉末的镇压农民起义的经验，还有苟晞战败石勒、王弥的经验，正规军打击农民军可以做到‘以一打三’。这样王旷的七万人加上刘琨一万精锐步骑兵实力还在汉军之上。所以东海王改变了当初王旷、刘琨、司马模同时进攻平阳的战略，而直接命王旷和刘琨南北同进支援壶关。长安司马模的军队因为战线遥远而停留在潼关，他也不敢独自进攻平阳。
却说刘琨接到朝廷公文，心中大喜，知道是兄长刘舆起到了作用。整整一年前，刘琨给大哥刘舆写了一封长信，由于不愿借用强大的拓跋鲜卑，刘琨的力量弱小，不足以战胜刘渊，请和朝廷共同出兵，南北夹击刘渊。可当时石勒、王弥大闹魏郡、邺城、冀州，使东海王无暇分心。
如今刘聪、石勒、王弥同时攻打壶关，正是一举全歼他们的好机会，刘琨怎能不高兴？他马上下令典齐全部军事力量，要驰援上党。可是却不想北面响起警报，刘虎造反，响应刘渊。并州胡人的确是太多了。
无奈之下，刘琨又重新召集众将商议，刘琨只有五千骑兵，一万步兵。最后做出新部署。令黄肃、韩述各带二千骑兵，火速南下援救上党。而自己带一千骑兵加五千步兵北上进讨匈奴右贤王刘虎。刘琨认为二十天之内，就能打败刘虎。不会影响到壶关决战。黄肃多年跟随刘琨南征北战，刘琨还是很放心的把几乎全部的精锐骑兵托付与他。
刘琨急于战败刘虎，回援上党。急命新兴（忻州）守将，雁门守将同攻刘虎。三路军队气势汹汹，刘虎招架不住，退回山区。
刘虎部也是匈奴五部之一。公元271年右贤王刘猛不愿再臣服晋廷，率部出长城，北归大漠。但被雁门守将追击而战败，刘猛被杀。大晋就近把他们安置到雁门西南的山中放牧。
匈奴常设四王以安部众，最重要的是左贤王，再次便是右贤王。左贤王一般由太子担任，主管最强大的部众。难怪匈奴老是出现太子杀父，自立为王的事，他带的部众最多。刘渊父亲就是左贤王，可是大晋不再策封他为单于。刘渊本就是匈奴单于的继承人。
左贤王之下为右贤王，右贤王乃是群臣之长，可比丞相。可见李虎部其实是五部中很重要的一支。只是因为右贤王叛逃漠北，又被追回，而安置在晋阳以北，和另四部分开。
刘虎还很年轻，他刚刚继位一年。去年刘渊听到年轻的刘虎成为部众之首，就派人游说他，刘虎也答应会见机行事。五胡之乱前期，起事者全是数代旅居中华者，几代下来，部落人口繁盛，与农民关系紧张。要知号称‘大汉’国的匈奴刘渊的都城平阳，可是在山西的最南部，匈奴竟然在刘琨晋阳（太原）的南边。
而据《新唐书·宰相世系表》中记录，刘虎为刘秀七世孙‘刘进伯’的后代。东汉时南匈奴叛乱，刘进伯北伐匈奴被擒，就投降了匈奴，他的孙子刘去卑做了匈奴右贤王。在公元196年受汉献帝命，进关攻打李侬、郭汜，遂留在并州。刘虎是刘去卑的孙子。
刘虎的重孙就是十六国中胡夏的建立者刘勃勃。
刘勃勃在长安建立胡夏国，自称天王。他认为自己是纯种的匈奴人，就自己给自己起了一个专用的姓氏——赫连，只有他一家用。从此他叫赫连勃勃。
温峤带骑兵和雁门军、新兴军齐攻刘虎，刘虎怎能打过，无奈整个部落西撤，退过汾河以西。并州三部一接近汾河东岸，就被刘虎部乱箭射回，如此几回，晋军不能靠近河岸。刘虎部众高兴的又乐又骂，把温峤气个半死。
两军依河对垒二个时辰之后，刘琨督五千步兵赶到，厉声质问温峤为何不冲过河去？
温峤说乱箭如雨，无法渡过。
刘琨又问：“为何不分兵迂回呢？”
温峤答道：“我分军，敌分军。这还是其次。主要是我军远来，不熟悉汾河水文，不知哪深哪浅，主力不敢贸然淌过河。只派小队察看，又被敌箭所阻。”
刘琨不再怪他，向河对岸观测许久，然后命众军回撤两里。众军休息，只派少数步骑散落河边，起放哨作用，以防刘虎过河偷袭。
刘虎见晋军稍稍后退，也马上下令一半部众去扎营建寨。
刘琨命晋军远离河边扎下营寨，命骑兵马上吃饭、睡觉。入夜，又命令五千步兵分成两队，分守上下夜。
刘虎在中军帐与众酋长饮酒作乐到深夜。三更将至，刘虎站起挥手摔碎酒杯，众将大惊，从半醉中惊醒。刘虎看大众惊醒，就大声说：“留你们玩到此时，就是为了今夜偷袭晋军，活捉刘琨。”
