刘琨到了中山，刘希已经被王浚骑兵杀死。幽州兵驱略民众而走，刘琨不愿与王浚彻底翻脸，而没有追赶，任上万民众被幽州兵带走。
王浚仗着鲜卑部骑兵竟还未打过一场败仗。忘乎所以之下，渐生不臣之心。这次驱走民众还不解恨，进而鼓动并、幽、冀三交之地的杂胡攻击刘琨。刘琨无奈，只好先平胡乱。
王浚幽、冀紧临并州，怀帝被擒，王浚早有不臣之心。在石勒未回归之前，其相邻强藩只有刘琨并州，王浚自有吞“并”野心。刘琨惹不惹他，他是都要打刘琨的，只是石勒回河北，王浚才放弃打刘琨的念头。
王浚与刘琨反目，罪虽不在刘琨，可是王浚与刘琨反目，却给其二人带来灭顶之灾。刘琨将杂胡驱走，还未返回晋阳，就接到噩耗，晋阳被前汉中山王刘曜和太子刘粲联合攻下。刘琨当场跌落马下。
原来刘琨急匆匆赶赴中山的时候，前时被刘琨酒后误杀的令狐盛有一子，名叫令狐泥，他就趁机投降前汉。并告知刘聪：刘琨不在晋阳，而且他的将军们也大多不在晋阳，都出动募兵了。晋阳从未如此空虚，机不可失，请攻晋阳。
刘聪数次攻打刘琨，均是完败而归。这次听说不仅刘琨不在晋阳，甚至晋阳城连个像样的将军都没有，刘聪心花怒放。
令狐泥又告诉刘聪，刘琨四处募兵，就是因为他和拓跋部要在三月之后攻前汉，抢回怀帝。
刘聪大惊，紧急召集众将商讨攻打晋阳之事。众将一听晋阳空虚，都摩拳擦掌要报数败之恨。又闻刘琨要在十月来讨前汉，更是群情激动，个个支持出战。
刚丢了长安的中山王刘曜，养好伤，正想立功赎罪，于是上前说道：“我军多次攻袭晋阳不成，虽因刘琨英武，但更主要的原因是我军派去之兵力不足。即然刘琨要在十月伐我，那么不管刘琨在不在晋阳，不管晋阳有没有兵将，我军都要全力去讨伐他。”
众人皆拍手赞同。
中山王刘曜说出中心意见：“我军应像去年攻洛阳一样，倾全力前往，刘琨在，生擒之，刘琨不在，就占住晋阳与其决战。”
刘聪对刘曜道：“我知你的意思了，偏师前去，即使拿下晋阳也未必守得住。我命你和刘粲率本部人马全去讨伐刘琨。”
刘曜一听大喜。刘曜和大皇子刘粲合起来拥有前汉一半兵马，一起出征骑兵超过三万，比去年攻晋都洛阳的兵马还多。前汉与刘琨生死大战开始了。
刘曜、大皇子刘粲（当时还不是太子），率三万铁骑浩浩荡荡杀向晋阳。兵刃耀天，旌旗蔽日，气吞山河。
晋阳城内接到警报，一片慌乱。温乔、刘遵、崔悦等主要将领也在外募兵，刘琨本在晋阳守城，可是王浚来太行西抢民众，刘琨只好亲去调解。本想十日内反回晋阳，可是却被杂胡缠住。
晋阳几乎无兵，太守高乔急得团团转，经过商议，只好先请晋阳城外杂胡先阻挡一下，一面急报刘琨。晋阳胡骑常年受到刘琨恩赐，自是责无旁贷。
如佳本希望请杂胡入城帮助守城，可是他们善骑战，进退无阻，守城这等画地为牢的事，胡兵自是不干。高乔无奈，只求山中散胡多抵挡几日，好为刘琨返回挤出时间。
可是前汉主力尽出，前来阻击的杂胡一击即溃，刘曜、刘粲进而围攻晋阳。晋阳城内只有三千新军，太守高乔本是文官，未经历过战争。但见城下胡马连天，旌旗蔽日，吓破了胆，竟自开城投降。
刘曜和刘粲相继入城，领路的令狐泥将刘琨父母搜出杀死。
匈奴汉几年来数战不能攻下的晋阳，因令狐泥报信而唾手即得。这些年匈奴汉的战略方针就是占领长安和晋阳。以此二城为基地，所以攻下晋阳并未刻意破坏。
刘琨得知晋阳丢失，痛的肝脏尽裂，急命四出之将回击晋阳，并请拓跋倚卢出兵。拓跋倚卢火速派太子六修，侄子普根和晋将卫雄、箕澹前来。三路大军也有骑军三万余人。
刘琨得到三万援军，疾驰晋阳。城内匈奴汉军得知后，中山王刘曜亲领二万骑兵渡河应战。由大皇子刘粲守晋阳。
西晋之后，东晋南北朝有五胡乱华之说，这一时期我国骑兵作战达到了最高峰。其它时期大多是骑步对战，而这一时间北方交战各方都大规模使用骑兵。晋阳之战为骑兵决战的开山之作。
两军相遇，刘曜和刘琨各自麾动骑兵进击。前汉多年在中原作战，打了很多胜仗，所获甚多。所以前汉骑兵以重甲骑兵为主，（当然不是中世纪的重装骑兵，中国骑兵甲片薄而小）。中山王刘曜一声令下，全军冲向刘琨鲜卑骑兵。二万匈奴铁骑采取最简单而实用的扇形阵型，向鲜卑骑兵冲来。骑兵队伍便如网状拉开，犹如层层渔网，在骑兵如此反复强力冲击下，没有敌人能经得住这样的持续打击，骑士在短刃相接先以强弓射敌。
而刘琨所领鲜卑骑兵人数虽略多于敌，但以轻骑为主，骑士只有兽皮为甲。战前刘琨告诫大众，轻骑胜在灵活，而重骑胜在阵形。重骑行动要比较统一，形成相互保护，进退一体。
轻骑胜在灵活，所以刘琨以雁形骑阵应战敌之扇形阵。刘琨轻骑以左右两路，各从敌人肋处插入匈奴重骑，希望在运动中将重骑阵形冲散。
可是匈奴重骑久经战阵，远射近砍，在一开始占了上风。杀场上一方重骑战马奔腾，逢刃必摧；。一方轻骑狂飙突进，锋刃割风而过。
双方各冲三次，近五万匹战马奔腾。刘琨见轻骑无法冲散敌重骑，而且在每次相交前的对射中吃亏不少，心中大惊。于是亲取盾牌，率本部两千晋阳铁骑冲入敌重骑之中。
虽然刘琨本部为重甲骑兵，但二千骑冲进敌军二万骑中，无疑是以身喂虎！只望舍得一身剐，但教胡重骑停下来。
匈奴重骑前奔中，只顾于两侧轻骑对射，冷不防与刘琨二千重骑正撞，整体速度慢了一些。
刘琨二千晋阳骑士都有家眷在城中被俘，明知冲击会万劫不复，但也义无反顾。
鲜卑轻骑本是客军，但见友军舍生忘死，受到极大鼓舞，从两侧冲入敌军，匈奴重骑阵形开始松动。团团相杀，两军相持不下。
从早晨杀到中午，万马奔腾，烟尘四塞，匈奴重骑开始慢慢吃力。
匈奴中山王刘曜以勇气闻名，见己军吃力，不仅不退，反而命人猛击进攻鼓，率亲兵加入战斗。一时间战马嘶鸣，风驰电掣，硝烟滚滚，狂风萧萧，两支常胜之师互不相让，血肉相搏。
团团相杀之下，轻骑兵灵巧的优势开始发挥，轻骑本就多于重骑，而且轻骑在对重骑作战中，也有他的一些方法，并不全是吃亏。轻骑多用长锤和长狼牙棒（二米长，头上有锤，锤上有钉），敲打重击。这些东西对甲胄的打击，要比刀、剑好使得多。
时间加长，匈奴骑兵败象已显。彻底被轻骑割开。中山王刘曜竟然身中七创，但仍然督战不退。匈奴重骑当然不如敌人轻骑快，敌人数量又多，回撤将全军毁灭。刘曜不愧是好汉一条，身中七创却硬是顶到天黑，才下了撤退命令。
骑兵不善于夜战，再说拓跋部队也损失很大，刘琨只好喊住众军，等待拓跋倚卢来到后，再行攻城。
一身是血的中山王刘曜被战马驮回晋阳城中，大皇子刘粲及众将大为惊恐。刘曜早已成为前汉第一虎将，其兵败逃回，令刘粲感到晋阳只会不守，当夜就下令撤军。
刘粲不是刘琨，他不会心慈手软，虽来不及破坏晋阳城，却可以四下点火，也算将晋阳城毁去。古代的房子都是木梁的。这一烧全城残破，无法住人。
然后刘粲押着数万晋阳民众，趁夜出城，向南而去。胡人骑战，要由农民种地，所以前汉打到哪里，都要抢人。刘曜在长安大败，仍然从长安拉走八万人士。
前汉所依仗的就是骑兵不易被步兵包围，可是此次不同以往，他的敌人不仅是轻骑兵，而且人数还超其一倍，前汉不该带上晋阳士民。
第二日，拓跋首领猗卢亲自赶到，鲜卑骑兵超过五万人，开始追击前汉军。天还未黑就追上前汉军，刘粲先命人将伤重的刘曜和一些重要战俘送走，然后两军再次血刃于原野之上。前汉军不肯舍下俘虏、财宝，死命相拼，又是一场血战。
箭已射尽，弓弦断绝；白刃相交，宝刀已折；生死肉搏。两国交战不比内战，人人浴血拼杀，宁作暴骨原野，不可沦为异奴！场面宏大而悲壮。无贵无贱，同为枯骨。鸟兽息声，群山沉寂，日阴如月，伤心惨目！
刘琨、猗卢军本就超前汉一倍，而晋阳派出募兵的将领也多赶回，加入战斗。
本场战役前汉大败，除先走的刘曜等人和大皇子刘粲逃走外，众多将领被杀、被擒。亲王刘丰被擒，前时投降的邢延被杀。
匈奴汉先是在叛徒的告密下偷袭空城晋阳成功，最后却输得一塌糊涂。本次晋阳之战给汉国造成重大心理阴影。以前汉国每年都要攻打晋阳一、二次。从此之后，汉国不再主动攻打晋阳。将战略定为北防刘琨，西攻长安。刘琨开始连年反攻。
战后，刘琨步行进入鲜卑营中拜谢拓跋倚卢，并请再往南攻。
前汉军顽强，两战下来，拓跋轻骑也损失不小，拓跋倚卢就请刘琨另行安排作战时间。刘琨自知其情，不好再请拓跋助战。拓跋猗卢将其部晋人武装留与刘琨，还留下马牛羊各千余匹，就领兵撤回代郡。经此两战，拓跋猗卢见到前汉还真是实力不俗，不敢全力攻前汉了。
刘琨回到本营，发现如佳和小儿刘群竟在营中，心中安慰。原来前汉军进入晋阳，如佳扮成丫鬟，带着刘群混入难民中，竟被前汉军带出城。直到刘琨军完胜之后，才敢站出来。
如佳见到刘琨，告诉刘琨一个噩耗，刘琨父母均被令狐泥杀死。
刘琨痛哭不止，只怨自己害了双亲。如佳也气愤不已的说：“令狐泥是个小人物，他没有什么能力，全怨王浚。国难当头，不同仇敌忾也就罢了，竟还要算计你。”
当年刘琨曾向王浚借八百骑兵，救父母于许都，所以刘琨对王浚多有忍让。今天却是他阴使杂胡纠缠刘琨，令其不得按时回晋阳，却害了双亲。刘琨对王浚的态度彻底改变了。
刘琨进入晋阳，将父母下葬，再将俘虏刘丰杀死，取血祭灵，痛苦一场。晋阳民室已被前汉军放火烧毁，无法居住，刘琨只好向北退入阳曲小城，招集亡散，抚慰疮痍。阳曲就是今日的太原城。
