洗马川之战后，刘曜聚拢残部千余人，迅速向平阳北逃。
桓景则趁势占据了闻喜县，在裴诜族人协助下，迅速进入汾河流域，与桓宣会师，随后攻占了绛邑城（今侯马附近）、临汾城（非今临汾，今新绛附****阳城面前已经再无阻碍。
唯一令军中有所议论的，是豫州的探子传来石勒再度南下的消息。
石勒依徐光之计，在给刘曜送出“援军”之后，也派出自己的精锐跨过黄河南下，兵分三路，让支雄、桃豹进攻青州；孔苌收取洛阳、荥阳一带；自己则带着全数谋臣，亲率老营精锐进攻兖州。唯独石虎留守河北。
果如石虎所料，留守河南的晋军不堪一击。
首先在王应撤离洛阳之后，洛阳已经是一座空城。先前石勒犹豫不敢拿下洛阳，是怕遭到桓景和王敦的两面夹击。而这次石勒以主力进攻豫兖，可就没有被夹击的危险了。所以孔苌放心大胆地进驻了洛阳城，与郗鉴在崤函道的出口对峙。
而青州的苏峻，主力也在徐州防备王敦，后方空虚。支雄轻松地渡过了黄河和济水。加之青州百姓也不满苏峻先前在青州聚敛过甚，敌军一至，本来城防严密的历城就被百姓打开了城门，支雄随即占领这座黄河以南的重镇。只是苏峻立刻回援临淄，双方在济水以南、泰山山麓形成拉锯之势。
至于兖州一路，石勒是按祖逖从前的军力来估计的，本来以为会遭受惨重的损失，所以亲自率领，配备的都是老营的精锐。可没想到留守此地的晋军早就不见了踪影，沿途只有起事的流民骚扰后勤，根本没有正规的晋军阻挡。
原来，王含和王应上次只是靠着郗鉴麾下的祖家军残部，才勉强挡住石虎带领的偏师。现在面对石勒的主力，粗粗一估计就知道根本不能阻挡，与其战败身死，还不如逃跑。
所以王含父子早早就将主力南撤，只留亲卫在高平前线。在听闻石勒渡过黄河后，二人不过十日，就从高平逃到了谯城，石勒的先锋尚要顾及收略附近的坞堡主，所以面对转进如此之快的对手，根本追之不及。
等到桓景抵达平阳城下的时候，从豫州来的最新的情报中，石勒已经拿下了浚仪，也就是祖逖第二次北伐的起点。
关东的突变传遍了桓景军中，出现了两个声音。
第一个声音来自白云坞的豫州旧部。他们大多出身佃户甚至猎户和自耕农，对于乡土还是有所感情。现在石勒攻取了整个兖州，他们的故乡豫州就成了王敦面对石勒的前线。
这一派人，甚至包括王雍容在内的桓景的家人和远近亲属，都在劝桓景暂且从平阳收兵，转而进攻石勒，至少夺回洛阳也好。毕竟占据洛阳的孔苌部是一支偏师，桓景倾全力还是有可能击退对手的。而一旦夺回洛阳，面对桓景在侧翼的威胁，石勒或许能够停止继续进攻豫州。
第二个声音则来自大多数流民出身的军士，和祖逖的旧部。他们都对王含父子丢了兖州和洛阳并不惊讶，甚至有些幸灾乐祸。毕竟王敦先前靠着背刺祖逖诈取的地盘，现在丢了，简直是现世的报应。
当然对于祖逖旧部而言，祖逖在平阳的消息也刺激着他们纷纷请战，要打进平阳，救出祖逖父子。这一派人自然希望桓景不要分兵去应对石勒对河南的进攻，只是守好崤函就行了。
平阳和洛阳，只能选一个。
“有些人让我进攻平阳；有些人让我撤军，转而进攻洛阳。依二位的见解，当如何处之？”桓景召来温峤和卞壸，询问对策。
平时常常意见不合的二人，此时的意见却出奇的一致：“攻平阳为先！”
卞壸的理由是基于军心考虑：
“平阳近而豫州远。豫州旧部坚持将军东进，不过是因为一些稀薄的故乡之情。为了这些虚幻的乡愿，而抛弃对将军有恩的祖公，是为不仁。何况祖公在流民中威望甚高，一旦弃之，则军心大坏，未必能如愿拿下洛阳。”
温峤则提醒桓景从现实的层面考虑：
“除了劝主公攻平阳的，和劝主公攻洛阳的，更多的人其实是在观望。不止河东刚刚投诚的薛家、柳家和裴家；也有关中的百姓们——他们可都不是主公的同乡。
“洛阳不过是一个空城而已，得之无益，反而会分散兵力。主公若是攻洛阳，则说明主公还是个眷念故乡，管不住同乡的平庸之辈。
“而平阳是战略要地，得之则可进取并州。若是攻平阳，管主公拿不拿得下，那就是在告诉河东的大族和百姓，告诉他们主公其实在意河东和平阳，告诉他们主公在意着进取天下的出口。”
桓景也有意继续进攻平阳，好不容易击溃了刘曜的主力，怎可半途而废。现在见两位谋臣都赞同北上，桓景最后一丝疑虑也消失了，于是大军立刻从临汾出发向北，直抵平阳（今临汾）城下，将军队在城外分三处扎营，事实上包围了平阳。
到了平阳城下，桓景才发现这座城池似乎并不好打。原来平阳城的城墙又高又厚，是从刘聪继位之后，就不断地加固，最终筑成的坚城。毕竟刘聪自己就是攻进平阳城中，才夺了他兄长的皇位；他吸取了先前城防不足的教训，所以对修城格外上心。
当初刘曜自己围平阳的时候，就围了半年才拿下靳准守的平阳城；现在自己守平阳，更是无比熟悉。所以虽然刘乂透露给了桓景许多平阳城的薄弱之处，但桓景派斥候探查之后，发现那些漏洞都被补上了。
不过桓景倒也不急，他先细细从匈奴逃兵嘴里打听平阳城中的情况。在得知刘曜自败走平阳之后，整日喜怒无常，残虐军士，知道刘曜处于一个非常不稳定的状态。
那么攻城为下，攻心为上。派出说客劝降，或许能有可乘之机。
不过这种状态下，听说刘曜对待俘虏也变得极其残忍。考虑到祖逖父子还在刘曜手上，桓景开始焦虑起来——必须尽快拿下平阳，必须尽快救出祖逖。
于是扎营半日之后，一骑从桓景营中，来到平阳城下。刘曜正坐镇城门楼上，见到来人，不禁瞪圆了眼睛，还不等说客说话，立刻怒骂道：
“裴诜小人！你不顾朕旧日恩义，如今何有颜面来见朕？”
裴诜估量了一下城墙上弩箭的射程，停下马来：“恩公休怒。在下又如何不顾陛下恩义了？”
“当初朕在长安救你于乱兵之中，若无朕，恐怕你早就是个刀下鬼了”，刘曜手指裴诜，痛斥道：“可在洗马川，你暗通桓景，将朕骗出闻喜城，以至大败。如今怎么还有脸来劝降，还有脸称朕‘恩公’？”
“在下于洗马川，不过做了一个河东百姓该做的事情而已”，裴诜冷笑一声：“至于恩义，若是没有恩公，长安又如何有乱兵呢？我当初是被恩公救了，但长安其他百姓可没有！”
“天无二日”，他手指城墙高喊：“如今桓景拥立天子继位于长安，恩公若是自去尊号，尚能活命！若是抱着那可怜的帝号不放，拒不投降，那么靳准就是你的榜样。石勒现在忙着打王敦，可没工夫来救你！”
听到靳准二字，刘曜腿一软，差点倒在地上。当初靳准自焚，儿女被充入军中做奴婢的惨状，可是历历在目。
他勉强起身，稍稍回过神来远望，才发现这时裴诜已经转身远去，第二个说客来到了城下。这一次，不止刘曜，整个河东军都露出了惊讶的神情。
来人正是汉国前皇太弟，如今的晋归义侯刘乂。