当司马昱病死之后，桓温本来希望自己称帝，但是谢安和王坦之两个人联手将他挫败，桓温郁郁而终，由桓温所立的皇帝司马曜在经过桓温一年的辅政之后最终从魔爪中脱离出来，但是这位十二岁的皇帝确实执政的年龄太小了，所以谢安觉得就这样让权力在自己的手中掌握似乎不符合时宜，所以他决定让那位两次垂帘听政的禇蒜子再次听政。
禇蒜子深切的明白，桓温的死代表着桓氏政权完全下落，而政权的重量慢慢向谢安的谢氏家族倾斜。而且禇蒜子知道，谢安在四十多岁之前不做官的原因是桓温的权力欲望膨胀，让他很不满。当然，谢安和王坦之组成了联合内阁，目的当然是防止桓温的弟弟桓冲再次复辟他兄长的势力。
所以禇蒜子并不干涉谢安的攫取权力，在375年王坦之病死之后，谢安代表的谢家政权，慢慢的获得了独裁权力。而桓冲觉得应该以大局为重，所以自愿去外地做刺史，谢安也最终感受到桓家势力的强大，所以谢安和桓冲两个人分管中外。
同年八月，司马曜大婚，迎娶了王濛的孙女王法慧为皇后，他的弟弟琅琊王司马道子迎娶了王坦之的从侄女为王妃。晋朝时代的王氏政权死灰复燃，虽然没有人敢于参政，但是外戚势力的上台本质上就是一种暗中的干政。这也为司马曜后期的主相相持的政局埋下了隐患。
太元元年（376年）正月初一，司马曜元服，崇德太后禇蒜子归政，谢安以中书监录尚书事的官职，成为名符其实的宰相。谢安当权的最大弱点就是没有军事力量的支持，这也是他为什么会在四十多岁的时候才出任官职。
由于对内要防范桓冲盘踞的荆州势力，对外要对付日益强大的秦政权，谢安感觉到没有军事力量是不可能获得成功的。所以谢安决心将自己的陈郡势力扶植成为军事实力，然后拱卫自己的利益。
太元二年（377年），谢安推举自己的侄儿谢玄为兖州刺史，镇守广陵郡，两年后又兼领徐州刺史，驻守节制北府。谢玄招募刘牢之、何谦、诸葛侃、高衡、刘轨、田洛和孙无终等骁勇善战的将领，整合了他们麾下的流民军队，组成了晋朝后期赫赫有名的“北府兵”。北府兵的战斗力之强，可以说是拱卫陈郡谢氏和东晋王朝的力量，但是他们也成为最终埋葬埋葬晋王朝的绝对军力。
司马曜登基以来，就一直面临着氏族政权和秦的威胁，晋王朝西部的益州和梁州就在宁康元年（373年）冬天被秦国攻陷。太元年间，随着秦国天王苻坚相机灭掉了凉国、代国，完成了对北方的统一之后，疆土已经扩大到了晋朝的北疆，这样苻坚的野心膨胀到了极点，他想要把晋朝也吞并了。
就在苻坚准备向晋朝进攻的时候，自己的谋士王猛病重，在临终前劝说他不要攻打晋朝，原因很简单。那就是晋朝虽然偏安，但是依然是具有中原文化的一个民族所建立的，民心所向，所以攻打晋朝相当于自取灭亡。
苻坚佯装答应，在王猛病逝之后，苻坚的本性暴露出来了。378年的四月，秦国派苻丕攻打襄阳，荆州刺史桓冲率领军队前去抵抗，司马曜连忙命令谢安征发徐州。兖州、青州三个州郡的人丁，派遣彭城内史何谦游军淮泗以为形式上的援助。
何谦出兵是北府兵的首次出战，从此以后，上下游桓、谢两军互相配合，彼此策应，将秦国兵力分而击之。这两支兵力的互相策应致使苻坚的前锋疲于奔命，为最终一举击溃苻坚部队打下了基础。
同年七月，秦军也采取了东西策应的方略，秦国将军彭超请求攻打彭城，他想要和自己的总帅苻坚互为犄角，东西策应。苻坚同意了彭超这个人的策略，并从西线分俱难和毛盛等军队自襄阳东略淮阴、盱眙，与彭超等人形成合围之势。
这一举动让晋王朝感受到了压力。到了太元四年（379年）正月，襄阳失守，晋国守将朱序被俘，其后彭城、下邳、淮阴、盱眙先后并入秦国的土地。
随着这些南方城市的陷落，晋朝的首都建康陷入到了沦陷危机之中，晋朝的处境并不算顺利。但是谢安的军队确实有一定的强悍可言，北府兵在君川打败了秦国部队，秦国部队被赶出了淮北地区，建康总算没有了被攻陷的危险了。
尽管如此，西线的战斗仍然不乐观。不过榜样的力量是无穷大的，君川战役的大胜利让北府兵提高了士气。
在第二年的时候，由于君川战斗的胜利，苻坚也觉得十分被动，虽然他还想打，但是后方的情况已经不容小视。他所统治的幽州爆发了苻洛、苻重之乱，苻坚忙于平叛，一时无暇南侵。
太元六年（381年）十二月至次年九月，桓冲在荆州与前秦军屡有战事，或守或攻，小有收获。前秦以苻融为征南大将军，筹划攻晋。
太元七年（382年）十月，苻坚将大举攻晋的计划公开于群臣，群臣大多反对，强调“谢安、桓冲皆江表伟人，君臣辑睦，内外同心”但苻坚志在必得，一意孤行，甚至已经安排司马曜当尚书左仆射，谢安为吏部尚书，桓冲为侍中，并在长安给他们修好府邸。
就这样，战争不可避免了。那么，已经在走下坡路的晋王朝和蒸蒸日上的秦政权又会如何把握好这一战的胜负状况呢？
请看下集：淝水争端
