劉曜軍自從失利退守馮翊郡郡城內，數日之內，皆是龜縮城內，未敢突圍。雙方大軍自從數日前連番大戰，皆是疲憊不堪，亟待休整。
經過此次大戰，雙方形勢逆轉，劉曜大軍雖然還有三萬多人，但是眼看著城內軍糧日漸耗盡，劉曜也不由得開始焦急起來。撤兵罷戰的心思一天天的滋長著。麾下兵卒也是厭戰日甚一日。
索綝與鞠允的大軍還有近四萬人，數量上看似佔據優勢，但是能戰之兵遠遠的少於劉曜大軍。加之朝廷送來急報，匈奴漢國另一大將石勒蠢蠢欲動，預寇長安，朝廷急召索綝大軍回防長安，無奈之下，索綝親帥一萬五千兵馬緊急回援長安。只剩下不到一萬五千人在此，加上鞠允萬餘兵馬，也就一下子只有兩萬多人，但是劉曜仍然不敢輕易出城進行決戰，幾次大戰，他確實是被許天軍的妖孽般的戰鬥力打怕了！
雙方此刻依舊僵持著，誰也奈何不了誰，但是萬幸的是晉軍的糧草還能支撐一段時間，卻劉曜卻是越來越撐不住了。
匈奴人逐水而居，不事生產，擅長遊牧和野戰，此時固守城內，時間越久，越是不利。於是劉曜時刻準備著突圍，為此劉曜秘密的訓練了一支突圍精兵，隨時準備著突圍。
而此時索綝與鞠允的大軍也是經過連續的征戰，裝備器械消耗較大，實質上也是無力進行攻城，只是安排大軍圍困著城池。而大量的傷兵需要救治，也不能在此久留，於是在建興二年七月初十，鞠允安排一支隊伍運送傷兵回黃白城之際，劉曜派一小隊騎兵出城門對傷兵隊伍進行佯攻，吸引了晉軍大軍，來了一招調虎離山，趁著城門防守減弱之際，劉曜大軍全城出動，將傷兵輜重拋棄一邊，全軍都是騎兵，徑直出城而去，直向東奔，晉軍騎兵有限，無力追擊，只得任由劉曜大軍全身而退。
許天本想追擊，但是也被鞠允攔下，擔心遭受伏擊。鞠允本部兵馬已經所剩不多，折算過半，實在是不能再損失了。
鞠允安排探馬一直尾隨，隨時彙報軍情，五天後直到收到劉曜大軍向東渡過黃河的訊息，鞠允才長出了一口氣，確認此次劉曜大軍是真的撤退了。
劉曜大軍的撤退，標誌著將近兩個多月的長安保衛戰終於落下了帷幕。此戰劉曜大軍折損將近六萬，可謂是元氣大傷，一年半載之內很難再次南下入侵長安，流亡的小朝廷又迎來了一次難得的喘息之機。
而此時長安也傳來了訊息，石勒並未真正的想要進軍長安，石勒南下也是劉曜派人聯絡石勒散佈出來的假訊息，目的在於調動索綝大軍回防長安，為劉曜大軍的突圍創造機會，掃清障礙。石勒現在也是無暇南下，他還在整治王浚留下的幽州爛攤子，忙著鎮壓治下的義軍，還要防備幷州的劉錕、中原的祖逖以及流民和北方的鮮卑人。
大戰既然已經結束，又過了數日，鞠允率領餘部連同許天擇日啟程，準備回京面聖。就在鞠允大軍回京
而此時的劉曜大軍一直渡過黃河後，繼續向東行軍，想著此次南下一無所獲，損兵折將，劉曜火氣很多，於是回軍計劃攻擊河內郡郭默所在地懷縣。
郭默，字玄雄，本身就是河內郡懷縣人，他出身卑賤，壯勇善戰，初為河內太守裴整部將。永嘉之亂時，郭默帶領倖存計程車眾自已擔任塢主，駕著漁船搶劫東歸旅客，數年後成為鉅富，流民們很多都來依附他，成為流民帥，郭默撫慰勉勵將士，頗得他們歡心。後來他投靠了幷州刺史劉琨為靠山，被拜為河內太守。有一次，郭默妻子陸氏的哥哥陸嘉挪取官米數石送給妹妹，郭預設為他違反制度，想要殺他，陸嘉恐懼，於是投奔石勒。郭默親自射殺妻子陸氏，以表明不存私心。
數日之後，劉曜大軍來犯懷縣，將三萬兵馬設立了三個大營，將懷縣團團包圍，斷絕了郭默和外界的聯絡。
郭默僅僅只有數千兵馬，此時一直被劉曜圍困，靠著餘糧過活，待到十數天後，糧食吃盡了，郭默心生一計，一面遣人面見劉曜，表示願意投降，並且把妻子送給劉曜當人質，請劉曜賣給糧食，劉曜信以為真，就送糧給他，並約定日期開啟城門正式出城投降，誰知等到糧食送來那天，郭默拿了糧食，還出兵給了送糧食隊伍一擊，然後將糧食運回城內後，下令又關閉了城門，繼續抵抗劉曜大軍。
劉曜感覺上當受騙，大怒若狂，於是就下令把郭默的妻子投入黃河淹死，然後發兵繼續攻城。郭默無法支援，就派弟弟郭芝向劉琨求援，劉琨知道郭默狡猾，把郭芝留下來而延緩救援的時間。郭默再次派人告急，恰逢郭芝出城洗馬，強使郭芝與他同歸。
郭默派郭芝到石勒那裡作人質，石勒因郭默詭計多端，就封上郭默的書信送給劉曜。郭默派人截獲石勒的信件，隨即突出重圍投奔李矩。後來與李矩合力抵抗劉曜、石勒，多次與其交戰，石勒的部下都害怕他。郭默派弟弟郭芝向劉琨求援，劉琨知道郭默狡猾，把郭芝留下來而延緩救援的時間。郭默再次派人告急，恰逢郭芝出城洗馬，強使郭芝與他同歸。
然後郭默又派郭芝到石勒那裡作人質，石勒因郭默詭計多端，就封上郭默的書信送給劉曜。郭默派人截獲石勒的信件，打算投奔身在新鄭的滎陽郡郡長李矩，李矩派他的外甥郭誦前來接應，郭誦率領的軍隊太少，不敢前進。正巧，幷州州長劉琨，派參軍張肇，率鮮卑騎兵五百人前往首都長安，戰亂阻塞，道路不通，只好返回，中途經過新鄭，李矩說服張肇，使張肇協助郭誦進擊。
劉曜軍望見鮮卑部隊，沒有經過交戰，即行撤退。郭默遂放棄懷縣，率領部眾歸附李矩。這時匈奴漢國國主劉聰召回劉曜，駐防蒲坂。
於是此次出兵南下，攻打長安之事就此完結！