前秦进兵攻取梁、益二州，以杨安镇守CD毛当镇守汉中，姚苌镇守垫江，王统镇守仇池，东晋军退据巴东。
晋孝武帝司马矅开始亲政，谢安晋升为中书监、录尚书事，总揽朝政，陈郡谢氏成为东晋的最后一个当轴士族。同年苻坚统一了中国北方，前秦与东晋的战争已经临近了，当时的东晋，长江上游由桓氏所掌握，下游则属于谢氏当政，谢安尽力调和桓谢两大家族的关系，以为即将爆发的战争作准备。
广陵缺乏良将防守，谢安不顾他人议论，极力举荐自己的侄子谢玄出任兖州刺史，镇守广陵，负责长江下游江北一线的军事防守。谢安则是自己都督扬州、豫州、徐州、兖州、青州五州军事，总管长江下游。
谢玄不负叔父重托，在广陵挑选良将，训练精兵，选拔了刘牢之、何谦等人，并且训练出一支在当时的整个中国最具有战斗力的精兵北府兵。
为了充实长江下游的军事力量，拱卫首都建康和制衡上游桓氏势力的东山再起，抵御前秦南下，谢安成立了新军。朝廷任命谢玄为南兖州刺史，负责筹组新军。
谢玄随即把南兖州的军事治理机关从京口移到广陵，南徐、南兖两州侨户纷纷应征入伍。当时彭城刘牢之等数人以骁勇应选，谢玄任命刘牢之为参军，率领精锐作为前锋，因为晋朝百姓称京口为北京，所以当时人称这支军队为北府兵。前秦将领俱难、彭超部队进攻淮南，并且包围了三阿，北府兵援救三阿，一战告捷，迫使前秦兵向北退逃。
在淝水之战，北府兵更是表现神勇，成为击败前秦的中坚力量。北府兵的军事实力使它成为各集团争夺的对象，北府将领也成为左右东晋政局的重要力量。
东晋大门阀谢家，把北方流民、流氓、以及原来驻军的精锐整合，组建了一支拱卫京师、足以对抗北方骑兵、间接听命于大门阀的军队北府兵。谢家对于北府兵的整合，对自己的家族、东晋政治、乃至中国政局都产生很大影响。
从谢家整合开始，北府兵就成了名副其实的精锐部队，这支部队的著名将领如刘牢之、刘裕等人也成了举足轻重的人物，哪个门阀能控制北府兵，他就能控制了江南汉人的政权。北府兵从谢玄整合开始，就成了大门阀的雇佣兵，东晋朝廷对它的指挥都不灵。
徐、兖二州本是北来侨民的集中地，人多劲悍，富有战斗经验，桓温曾说：“京口酒可饮，箕可用，兵可使。”谢玄召募劲勇，徐、兖人民纷纷应募入伍，彭城刘牢之、东海何谦、琅琊诸葛侃、乐安高衡、东平刘轨、西河田洛、晋陵孙无终等，皆以骁勇应选。
谢玄以刘牢之为参军，常领精锐为前锋，战无不捷，威震敌胆。谢玄为徐州刺史，镇守京口，东晋称京口为北府，所以称这支军队为北府兵。
这支军队建立不久，抗御前秦屡立战功。秦将彭超进攻彭城，谢玄率领高衡、何谦解彭城之围。后来彭超与俱难、毛当等率领秦军六万南下，围攻晋幽州刺史田洛于三阿，朝廷大震。
谢玄率领何谦、刘牢之等解田洛之围，又连续大败秦军，彭超、俱难仅以身免而北逃。在淝水之战中，谢玄、刘牢之率领的北府兵更发挥了主力军的作用。
淝水之战后，谢玄从此失去对北府兵的领导权。此后谯王司马怡，外戚王恭相继任青、兖二州刺史，统领北府兵。王恭自京口起兵反晋，北府兵从此成为东晋内部火并的工具。
谢玄所组建的新军具有异乎寻常的历史意义，在乱世之中军队非再造不可，只有再造新军，才能彻底涤除旧军的积弊，才能彻底保证新军严明的纪律，先进的战术和高昂的斗志，进而确保强大的战力。
北府兵是来自招集北方的流民，有很多都怀着浓厚的汉人血性，从平民变成流民让他们有着强烈的复仇心态，士族门阀几乎拢断了所有出头的机会。一般寒族想取得权力唯有参军，加上皇帝的危机意识，国破就家亡，只要是汉人都拥有北伐中原的意念，除了精锐的训练之外，就是复仇的意志，这支部队不可能不强盛。
北府军由谢玄统军之后，在谢安的筹划下，作为一个重要的战略力量，逐渐有了严格和正规的训练。北府军的武器，步、骑、车多兵种，根据不同的要求分别有刀、搠、蕺、弩、箭，根据它的攻城战术，还配备有专门的工兵，使用冲车、云梯等。
水军一直是南军的强项，北府军水军使用的战法，包括最原始的互相撞击和接舷战，水军在应付北方时还兼有运输粮草和兵员策应陆军的功能。却月阵是以水军为后备屏障，利用战车和步兵结阵，同时用骑兵远程的侧击。
北府兵创建后，东晋针对前秦的南侵，已经形成了荆州和江淮两大战略防区。桓冲荆州军在中上游的策略，是全重江南，轻戍江北。襄阳失守后，桓冲的重点防线由江汉北部退至沿江地带，力阻江北前秦军渡江南下，阻断前秦水军由巴蜀和汉水东进南下，与长江下游的北府兵互相策应，减轻前秦对都城建康的压力。
前秦征南大将军苻丕率领步骑七万人进攻襄阳，苻坚又另外派十万多人，分三路合围襄阳，总计投入兵力就是十七万兵。襄阳守将朱序在死守近一年后，城破被俘。
前秦以十万大军占据樊城，猛攻襄阳，东晋守军以死力敌，连城中妇人也上了前哨。最后前秦抢走了一个和尚，战役结束了。前秦皇帝苻坚宣告取得了战役的成功，得到了一个半人；东晋守将朱序当了俘虏，只留下了一个值得纪念的夫人城。
高僧释道安为躲避战乱，率领了四百多个僧徒从陆浑南下襄阳，在襄阳建立檀溪寺。在这个相对安静的环境里，释道安用儒家文化注释佛经，创六家七宗之首的本无宗。
东晋孝武帝下诏书表扬释道安，称赞释道安居道训欲，征绩兼着，晋帝诏褒道安，让他享用王公大臣俸禄。而前秦皇帝苻坚也知道道安的名望，却苦苦得不到道安。
他不只一次地对他的大臣说：“襄阳有位释道安法师，几乎不是俗人，而是神器，有什么方法能使他来到我这儿？”
苻坚提的问题，在大臣中心成了热门话题，但是谁也没有拿出个好方法来。最终仍是苻坚自个拿定主意，晋国以我为敌，假如以礼去请，晋国必定不会允许。武力虽是下策，但只有这一个方法。
苻坚主意已定，当即派遣大将苻丕统领十万大军，攻击襄阳，十万大军去抢一个人才，比占据一块地盘要困难得多。所以大军临行前，苻坚交待苻丕：“这场战役，揭露宣告是攫取肥美土地襄、樊、沔，实际上只要能争夺释道安就可以了。”
苻丕心照不宣，大军火速跋涉，直逼襄阳。苻丕大军跋涉敏捷、悄密，当他渡过黄河，进逼到新野的时候，襄阳太守朱序才探得苻丕攻击襄阳的音讯。这时朱序首要想到的是维护释道安，他一方面备战迎敌，一方面派人到檀溪寺告诉释道安脱离襄阳。
释道安听到这个音讯，细细地划算了一番，他想的是使用这个看似逃走的时机，以退为进，把他的学徒散布到长江流域去，在更宽广的领域传达释教种子。释道安把学徒们一批一批地叫来，叫法遇、昙冀、昙征率一批同学到江陵长沙寺；叫僧辅、昙戒、道玄率一批同学到上明东寺；慧永率一批同学到庐山西林寺。道安正筹划着自个与慧远等南渡长江的时候，朱序派兵控制了檀溪寺。
本来朱序已探听到苻丕攻击襄阳的内幕音讯，彻底是为了争夺释道安。他觉得自个守土有责，只能死守襄阳城，不觉为自个的生命忧虑。这时他的僚属向他献计说：“剌史和安法师友谊极好，秦兵是不会害安法师的，有安法师在，秦兵也就不会害剌史了。”
朱序觉得这话有道理，便派了一队人马到檀溪寺，不让道安脱离。苻丕大军兵临樊城，并在上游渡江，逼进了市郊，朱序感到形势危殆，便又很快挟制释道安朝襄阳城内的太守衙门而去。檀溪寺里只剩下道安的高徒慧远等望着师傅远去的身影，心想这是太守要师傅去当护身符。
正在这时，一位农人急匆匆地跑来说：“秦兵已到了我们庄上，立刻要来檀溪寺抢安法师，其他的法师有抵挡的都要捆起来。”
慧远一行人听了，很快地收拾行李脱离了檀溪寺，他们刚刚走了一条小路，秦兵也就到了，偌大的一个檀溪寺里，竟空无一人。苻丕的部队在檀溪寺扑了空，料到释道安一定是被朱序藏进襄阳城太守衙门里去了。所以把个襄阳城围得风雨不透，朱序也调集了全部兵力死守。
朱序的妈妈韩氏亲身到城墙上巡视，韩氏在巡视中发现，秦兵从城西北角攻破，所以率领百余婢女与城中的女子在城角筑城二十余丈，城中兵民称此城为夫人城。
不久秦兵公然从西北角发起猛攻，守城将兵尽管顽强抵抗，老城墙仍然被秦兵所攻破。朱序将兵很快退到韩夫人新筑的夫人城据守。苻丕因为粮草将尽，率领众兵苦攻，朱序据守卸敌，屡战破秦，苻丕屡攻不破，只好退兵到市郊。