司馬軍如潮水一般地撤退，也自然引起了羊祜的注意，在被圍困的這些日子，介休城完全淪為了孤島，外界的消息隔絕，羊祜當然也不可能知道祁縣之戰的事情，只感覺到司馬軍的撤退，相當的倉促，一副兵荒馬亂的模樣。
是不是司馬軍故布疑陣，想要誘使守軍出城追擊？
因為同樣的招數司馬軍已經使過了，不過羊祜可沒有上當，面對數量是己方十倍的敵人，介休的城池便是最好的防禦手段，而一旦失去了這個屏障，那怕步兵營再厲害，也不可能敵得過這麼多的敵人。
所以不管司馬軍使什麼的手段，羊祜都是堅持初衷不動如山，絲毫不理會司馬軍的那些花招和詭計，他現在的首要任務就是守住介休城，至於消滅敵人，那就不是羊祜能力所及的範圍了，司馬軍兵雄勢大，依仗著堅固的城池，羊祜可以和敵人周旋一二，但如果打野戰的話，則沒有任何的勝算可言。
羊祜登上城樓，目送著司馬軍離去，他只是冷冷地看著，對於手下將領出戰的請求，羊祜則是絲毫沒有理會，反而下令嚴守城池，一兵一卒不得出城。
司馬軍真的撤退也好，還是玩弄陰謀詭計，對於羊祜來說都不重要，在沒有等到并州軍的援兵前來之際，羊祜是不會輕易地離開介休的。
這是他寸步不讓的原則。
當然司馬師也沒指望可以引誘羊祜出城追擊，打了這麼長時間的交道，司馬師對羊祜也是十分了解的，反正不管用什麼樣的手段，拿下介休城已經是毫無希望了，為了避免腹背受敵的困境，司馬師必須要儘快地完成撤軍，遲疑不決的後果，那就是很可能會遭到更為慘重的損失。
為了儘快地達成撤軍平陽的目的，司馬師下令拋棄掉了幾乎所有的輜重物資和重型器械，當然為了避免這些東西落入到并州軍的手中，司馬師在撤退之前，將這些物資全部付之一炬，只留下了一堆的灰燼。
烈火在熊熊燃燒著，司馬軍先前的營地已經是人去營空，只留下了一片的狼籍，司馬軍的將士臨走之時，還都在扼腕而嘆，要知道，這麼多的輜重和器械，那可都是花費了不少的真金白銀的，統統付之一炬，真是天大的浪費呀。
司馬師當然也很心疼，儘管如今司馬家權柄在握，但執掌天下，花錢的地方也是海了去，白白扔掉這麼多的物資，簡直就是暴殄天物。
可是想要儘快地完成撤軍，司馬師又不得不痛下決心，輕裝而走，現在的形勢非常的緊迫，掌握著騎兵優勢的并州軍隨時都有可能追來，現在不捨棄這些物資，一旦追兵趕到，不但他們沒有機會去銷毀這些東西，而且未能及時撤離的話，很可能軍隊都會受到損失。
這個時候就需要主將的果決和毅力了，遲疑不決反而會後患無窮，司馬懿重傷未愈，不能視事，現在指揮全軍的重擔就落到了司馬師的肩上，帶著這十萬人安全地撤到平陽，便是司馬師最大的責任了。
司馬軍逶迤而行，一路向南，在司馬師的要求之下，整支軍隊曉行夜宿，行軍的速度達到了正常行軍速度的兩倍，三百餘里的路程，司馬師計劃用三天時間來完成。
當然，這樣的速度和騎兵比起來，還是相距甚遠的，不過好消息卻是，當司馬軍從介休出發之後，并州騎兵一直還滯留在祁縣一帶，並沒有南下的企圖，眼看著距離平陽越來越近了，司馬師忐忑的心也可以放平了，重新回到河東，也讓司馬師有一種踏實的感覺。
并州之戰已經是過去式了，現在司馬師要做的，就是忘掉過去，重拾信心，為了守住了平陽郡和河東郡，他必須要振作起來，力挽狂瀾，和并州軍戰鬥到底。
連續強行軍了三天，司馬師終於可以看到平陽的城郭了，略感疲憊他的總算可以鬆了一口氣，下令全軍立刻進城，並著手布署平陽的城防，準備迎接來犯之敵。
平陽城此刻一片寂靜，城門緊閉，就連城頭上都看不到一個人影，按理說，平陽遠在前線的後方，防備的等級並不高，在司馬軍到達之前，平陽城應當是城門洞開，百姓自由往來才對，為何此刻卻是城門關閉，無有人煙的？
或許是前線戰敗的消息傳達到了平陽，這才讓平陽的防備等級明顯的提升了幾個檔次，但究竟是誰下的令，司馬師卻是一頭霧水，因為在司馬軍中充當先鋒官的，正是平陽太守胡奮，胡奮尚且沒有平陽城中，那麼誰有這個膽量來關閉平陽的城門？
現在倒不是追究誰的責任的時候，平陽城城門緊閉，阻礙的是司馬大軍進城的步伐，司馬師喝令手下大嗓門的士兵，跑到城下去喊叫開門。
可非常奇怪的是，任憑這些士兵喊破了喉嚨，城上卻是死一般的沉寂，連半點回應都沒有，諾大的一個城池，居然無人答話，這委實也有些太奇怪了。
司馬師一頭霧水，難道說平陽城已經易手了？可這不可能啊，并州軍一直駐留祁縣，也就是說他們一直在司馬軍的身後，就算他們能插翅，也不可能這麼毫無動靜地繞過去。
司馬師在胡奮的陪同之下，親自來到了平陽城下，查看一二，果然平陽城毫無動靜，就連城頭上魏國的旗幟，都有些破舊，靜靜矗立在那兒，似乎在嘲笑著司馬師等人的不智。
胡奮不禁大怒，他好歹是平陽太守，坐鎮平陽也有幾年了，現在居然溜了一圈回來後，發現連門也進不了，簡直是豈有此理。
胡奮下令軍士架起雲梯，爬上城頭去看個究竟。
那知這些軍士剛爬了半截，就聽得城頭之上吶喊之聲頓起，湧出了無數士兵來，刀槍在手，弓箭在弦，密密麻麻地擠滿了城牆，為首一將，哈哈大笑道：「司馬師，某在此恭候多時了！」