与魏战争，接连受挫

就在后秦势力顺利到达河西的时候，它的北部和东部地区却遭到了北魏军队的攻击。北魏是拓跋鲜卑人建立的国家。拓跋鲜卑人原起大兴安岭，后不断南下。淝水战后，其部落酋长拓跋珪纠合部众建立起以“代”为名号的雏型国家。在打败和消灭周围的一些部落后，拓跋珪基本上控制了代北地区。太元二十一年（396）十月，拓跋珪进击中原，战胜了强大的后燕。两年后， 拓跋珪定都平城，称帝建元，并改国号为魏，史称北魏。北魏和后秦互相接壤，都有吞并对方的欲望。早在太元十七年（392），姚苌因收纳反叛拓跋鲜卑的没弈干部落，而与代结怨。姚兴即位后，重用逃亡到没弈干处的赫连勃勃，更激怒了拓跋珪。赫连勃勃是拓跋鲜卑人世仇匈奴种的铁弗部酋长刘卫辰的儿子。刘卫辰及其部落被拓跋珪诛灭，赫连勃勃劫后余生投奔没弈干。姚兴封他为安远将军，使其助没弈干戍守后秦的重镇高平（今宁夏固原县）， 并把三城（今陕西延安）、朔方（今内蒙古杭锦旗北）杂夷及铁弗余众三万人，归其统领。赫连勃勃的势力逐渐发展起来，成为北魏的西部边害。隆安五年十二月（公元 402 年 1 月），北魏以五万大军攻陷高平，没弈干与赫连勃勃南逃上邽（今甘肃天水）。魏军将高平的府库积蓄及所有牲畜洗劫一空， 并将这里的百姓也尽数徙到平城（今山西大同）。同时，北魏的平阳太守又发兵侵入河东，从东部威胁后秦。还有一支北魏军队打败了西秦的附庸国黜弗、素古延等部。数路魏军一齐攻击，兵锋所及，一片废墟。后秦举国震动， 长安城内人心惶惶，关中地区的很多城堡白天也不敢把城门打开。

姚兴不甘示弱，决定回击北魏。元兴元年（402）五月，姚兴以大将姚平、狄伯支为前锋，带兵四万进攻北魏的并州（今山西地区）。他自己亲率四万七千人的后继部队，担任支援。两个月后，姚平等人拿下了并州的要塞乾壁。但是，拓跋珪的反应很快，立即倾兵来救，迅速将姚平反围在汾水东岸的柴壁（今山西襄汾南）。不久，拓跋珪又在蒙坑将救助柴壁的姚兴大军击溃。姚平身陷重围，逐渐矢尽粮绝。十月里的一天深夜，姚平准备突围与列兵汾西的姚兴会合，然而两人都把希望寄托在对方身上，仅有呐喊，而无接近敌人的实际行动。突围不成，姚平投水自杀。于是，两万大军敛手就擒。对岸的秦军坐视这场败亡，力不能救，皆哀号恸哭，声震山谷。姚兴向拓跋珪求和，遭到拒绝。魏军企图乘胜拿下蒲陂，取得河东。只是由于柔然突然骚扰北方，拓跋珪才被迫撤走。柴壁一战是对姚兴的一次重大打击，从此后秦再也无力东进与北魏抗争，实际上已经失去了夺取中原的希望。

元兴二年（403），后秦向南方扩张领土，取得成效。当时东晋王朝内部发生变乱，荆州刺史桓玄从上游起兵，长驱攻入建康。桓玄逼迫晋安帝禅位于己，改国号为楚。桓玄之变，加剧了东晋统治集团的内部矛盾，一些不满桓玄统治的官吏北上投降后秦。他们为姚兴提供了南方社会虚弊的真实情况，加强了他南下用兵的信心。这一年，姚兴先后攻取了东晋的南乡、顺阳、新野等十二郡土地。

同年，后秦的军队还重创了仇池（今甘肃成县西）的割据政权，迫使仇池王杨盛送子为质，接受姚兴的封号。