前秦是我国长江以北地区的少数民族氐人建立的政权。苻坚即位以后，重用王猛、吕婆楼等贤臣，使前秦得到了很好的发展。苻坚在王猛的帮助下，先后灭掉了前燕、前梁、代国，前秦的势力得到了迅速的扩张。几年后，王猛病死，苻坚见国力充足，就踌躇满志，准备攻打东晋。群臣对苻坚的这个想法意见不一，有的赞成，但反对者的阵营中有些很有分量的人物，如权翼和苻坚的弟弟苻融，而且王猛生前也力劝苻坚不要伐晋。苻坚心中不满，就找弟弟苻融商量。苻坚说：“我朝有雄兵百万，粮食堆积如山，晋朝虽然有长江天险，只要每个人把马鞭扔到江水中，就足以让长江断流。何况我军屡战屡胜，怎么能让东晋长久的存在下去呢？”苻融说：“陛下收留的鲜卑、羌等族，表面上是归顺，但是心里都不服，而且东晋上下一心，谢安天下奇才，不可图谋。”苻坚自恃武力强大，不听劝告，还狂妄的说：“等到灭掉了东晋，封东晋天子为尚书左仆射，谢安做吏部尚书，桓冲为侍中。”东晋王朝和前秦的关系变得紧张起来。
面对前秦的巨大威胁，在政治斗争中表现得游刃有余的谢安，又显露了他超群的军事才能。谢安首先安定民心，发展生产，为不可避免的战争打下物质基础，改革了税制，减免劳役，提倡节俭，东晋的国库渐渐丰盈起来。
应付战争，只有物质基础是不行的，还必须有一支强大的军队。当时东晋的军队都掌握在桓冲的手中，桓冲坐镇长江上游，守卫战略要地，不能轻举妄动。为了守卫江北，同时也为战争做好准备，谢安推荐了自己的侄子谢玄，让他去组建一支新的军队。朝中大臣听说谢安推荐自己的侄子，有些人不太同意，认为他任人唯亲。一向与谢安不合的郗超却说：“谢安违背常理举荐亲属，这是他的明智；谢玄一定能不负谢安的推荐，这是他的才干。”郗超这样说，其他人的议论才平息了。谢玄被任命为建武将军、兖州刺史、领广陵相，监江北的军队。
组建新的军队是谢安的策划，当时东晋主要拥有荆州和扬州，长江上游的荆州地广兵强，许多重权人物都做过荆州刺史。现在荆州在桓冲手中，而扬州是京师所在地，如何改变荆州和扬州的军事力量对比，是谢安必须要解决的问题。上游既然已经不能发展，谢安决定在下游的广陵、京口建立北府兵。
晋代的京口就是今天的江苏镇江，那时候也称为北府。这里的人骁勇善战，谢玄出镇镇江、广陵之后，按照谢安的部署招抚了刘牢之等大将，组成了北府兵，成为东晋朝廷的一支精锐部队。谢安通过养民、建军这些做法，为抗击前秦做好了准备。
北府兵建成后，多次击败前秦的军队，后来谢玄又率领军队偷袭前秦军，屡战屡胜。朝廷封谢玄为冠军将军兼徐州刺史。谢安有了自己的精锐部队，所以苻坚大举进兵的消息传来，谢安不慌不忙，任命自己的弟弟谢石为征讨大都督，命谢玄为前锋都督和辅国将军谢琰、西中郎将桓伊率领八万人马拒敌，另外派龙骧将军胡彬率领五千人增援军事重镇寿阳，以谢玄的北府兵为主力。
苻坚号称百万雄兵，倾国而出，晋军只有八万人马，众寡悬殊，东晋上下都很悲观。上至皇帝，下至将校都忧心忡忡。连谢玄也很担心，他奉命出发前去问叔叔谢安，应该如何破敌。谢安对他说：“上面已经下了旨意了。”谢玄等了半天，也没有下文，不敢多问，只好回去。但谢玄他放心不下，就让手下的将军张玄去问，结果谢安却让张玄陪他一起出去游玩了，谢玄不敢多问，谢安倒是不慌不忙，一直游玩到天黑才回来，又找来谢玄下棋，赌谢玄的别墅。谢玄棋艺本来高过谢安，可是由于分心，最后输给了谢安。谢安笑着安慰了谢玄几句，然后面授机宜，这才让谢玄回家。其实谢安心里何尝不知道前秦势力强大，但是他身为朝廷的股肱之臣，在这个紧要关头自己先惊慌失措，全国上下就会崩溃的，他故意摆出悠闲的样子，就是要安定民心。
桓冲派来了三千精兵要入卫京师，谢安婉言谢绝。桓冲叹息说：“谢安是宰相之才，却不娴于将略，天下大事不可收拾了，我们马上就会沦为异族的俘虏了。”谢安没有理会桓冲的想法，他有自己的考虑：三千人在战役中未必起到多大的作用，而且在这个时候，派兵入京，不免惊扰人心。更重要的是桓冲的势力一入京师，清除就难了，所以谢安才拒绝了桓冲的要求，另外他对自己的战略也充满了信心。
同年十月，苻融率军猛攻寿阳，大将慕容垂攻克郧城(今天湖北安陆)，胡彬退保硖石(今安徽寿县西)。谢玄和谢石由东向西来帮助，但是因为惧怕苻坚的大将梁成阻拦，不敢前进。胡彬死守硖石，眼看粮草不足，派人出来报告谢石说自己粮草不足。结果送信的人被苻坚抓住了，苻坚知道这个情况后，立刻率领八千人赶来寿阳会合苻融，并派原来镇守襄阳后来被俘投降的晋将朱序去游说谢石，劝他投降。朱序虽然在前秦做官，但一直心念故国。朱序私下里对谢石说明，前秦的百万大军并未到达，只是少数军队在这里，务必抓紧时机，打败他们。谢石听了朱序的报告，谢琰也一意劝说，这才下定了决心，准备正面出击。
十一月，谢玄派刘牢之带领五千人去袭击梁成驻守的洛涧，刘牢之奋勇在前，秦军大败。刘牢之斩杀了梁成和他的弟弟梁云。刘牢之大获全胜，解了胡彬之围。谢石乘势追击，直抵寿阳。苻坚和苻融登上寿阳城，望见城外晋军军容严整，又看见八公山上的草木，误认为也是晋兵。苻坚心中有些害怕了，他对苻融说：“这可是劲敌啊，怎么能说晋军的力量薄弱呢？”
苻坚见晋军势大，就严守不出，等待后面的大军。两军隔着寿阳城东的淝水，秦军在西北，晋军在东。谢石兵进东岸，无法度过淝水和秦军作战。谢玄怕时间长了，秦军的后续部队来到，不好取胜，就给苻坚送信说：将军率军深入，依水列阵，看来是惧怕我军，不敢作战了。请您把军队后撤一点，让我们渡河过去，大家一决胜负，如何？苻坚想趁着晋军渡河的时候袭击晋军，就答应了谢玄的要求。
三天后，谢玄、谢石指挥军队渡河，苻坚下令队伍稍稍后撤，不料正在撤退，秦军后军的朱序大喊“秦军败了，秦军败了！”秦军不知道是怎么回事，以为真的败了，都后退逃跑，阵势大乱。谢玄率领军队顺利渡河，攻击敌人，前秦军兵败如山倒，苻融死在乱军之中，苻坚一路未歇，听到风声和鹤的叫声就以为是晋军追来了，一路逃回长安。
淝水之战刚刚胜利，谢安就收到了捷报。谢安正和客人下棋，接过后看了一眼，随手放在桌子上。客人问他什么事，谢安平静的说：“小子们已经打败贼寇了。”看不出一点高兴的样子。但是，谢安的内心却很激动，以至于下完棋回屋，不小心碰断了鞋底的木齿都没有察觉到。
淝水之战看上去和谢安没有什么关系，但谢石和谢玄是前方的主帅，谢安才是真正的中枢首脑，前线的一举一动他都了如指掌。战前的兵力部署后来被认为是极其英明的布置，而桓冲入卫京师之举并不是谢安所要关心的内容。在外面有强敌压境的情况下，就连戎马出身的桓冲都表现出了不安，而本是书生的谢安却从容镇定，在这样一个危机的时刻，能保持头脑清醒实在是不容易。这场战争中有许多矛盾，谢安牢牢抓住了主要矛盾，他开田减税，组建军队，完全都是围绕解决这个矛盾而开展的。桓冲的问题已经是次要的了。不得不说桓冲也是一个英才，谢安知道他不会在这个时候出来搞分裂，所以才放心大胆的专注于和前秦的这场战争，因为这直接关系到东晋王朝的生死存亡和谢、桓两个家族的地位。
淝水之战后，苻坚逃回长安。苻坚手下的鲜卑和羌族趁机闹事，灭亡了前秦。北方重新陷入了各国纷争的混乱局面。在长江以南的东晋王朝却得以休养生息，又维持了近百年时间。桓冲得知谢氏家族大破前秦后，叹息不已，又羞又耻，不久就发病身亡了，谢安等于去掉了一个最大的对手。可见解决了这个主要矛盾，其他的问题就迎刃而解了。说淝水之战是整个东晋发展史甚至整个南北朝历史的转折点一点也不为过。在这个过程中，谢安和他领导的谢氏家族居功至伟，大诗人李白在他的诗歌中写道：
寿阳信天险，天险横荆关。
苻坚百万众，遥阻八公山。
不假筑长城，大贤在其间。
战夫若熊虎，破敌有余闲。
诗中把谢安比作镇国的长城，对于用大智慧先挫桓温，后败苻坚的谢安来说，李白的称赞是当之无愧的。
三、在高峰时一定要想到退路
谢安成功后，各种潜在的威胁纷至沓来，加上东晋王朝要收回权力，更是危机四伏，谢安在这种情况下，果断决定退出历史舞台，这不是一般人所能做到的。古往今来，因为迷恋权力，不肯放手而导致覆灭的事屡见不鲜。谢安以锐利的眼光，超人的果敢做出了这一决定，体现了他的大智大勇。
