翟让的狱吏）从河阳去攻打回洛城（今河南孟津县东南），李世民亲带大军屯于北邙山连营扎寨，逼向王世充亲自戍守的洛阳城
等到了八月，黄君汉派校尉张夜叉率水军袭取回洛城，截断了河阳南桥，王世充大怒派太子玄应、大将杨公卿等攻打回洛，却未能攻克，只得在回洛城西边筑起一座城堡留兵镇守
不久，刘德威攻克了怀州城（今河南沁阳县）的外城，情况愈发对王世充不利起来
九月，王世充部将显州（今河南沁阳县）总管田瓒率所部汝南、淮安两郡投降李唐，于是李唐开始绕过洛阳城攻打淮阳、谯郡、汝阴等淮北诸郡
面对着不断恶化的局势王世充麾下的将领充满了悲观的情绪，于是在九月十日这天王世充麾下大将张镇周忽然向李唐投降，薛猛趁势攻陷硖石堡（今河南洛阳县西）、千金堡（今河南洛阳县北）
随即又有王世充大将杨庆以鲁阳郡（治今河南鲁山）降唐，于是唐军又开始从南阳郡不断向北攻打中川、汝北两郡，这时唐军已经从两个方向威胁到洛阳城的安危
王世充太子王应玄镇守虎牢，军队驻扎在荥水、汴水之间，当他得知鲁阳郡降唐时立刻率部前来夺取，却被唐军阻击阻击
随后，荥州、汴州先后降唐，唐军打通了嵩山之南联通南阳和河阴唐军之间的通路，王玄应见诸州皆降，只得从虎牢撤回洛阳，这时王世充几乎已经失去了洛阳以外大部分郡县的控制权
面对着唐军进逼洛阳围城不断，自己的属地也逐渐为唐所占的日益恶化的局面，王世充在与大臣一番商议后不得不决定派人向割据大河以北的窦建德请求援助，毕竟如今仅存割据势力中最强大的就是李渊了
虽然从前王世充与窦建德双方曾为争夺河内等一部分地盘发生过冲突，但建德的中书侍郎刘彬认为，应把握战机暂弃前嫌出兵应援
他分析说：天下大乱，唐得关西，郑得河南，赵得河北，共成鼎足之势今唐举兵临郑，自秋涉冬唐兵日增，郑地日蹙，唐强郑弱，势必不支郑亡，则赵不能独立矣，不如解仇除怨，发兵救之赵击其外，郑攻其内，破唐必矣唐师既退，徐观其变，若郑可取之，并二国之兵，乘唐师之老，天下可取也
刘彬对形势的分析可谓切中要害、一箭双雕，而且切实可行当时唐军势盛，单独由赵国或郑国都不足以与唐军对抗，只有维持三足鼎立，才可能生存，窦建德采纳了他的建议
就在夏历五十六年三月，窦建德令范愿守曹州，单雄信等诸位大将率众西救洛阳，水陆并进以船队运粮，驻军于成皋东边的东原
这时唐军围攻洛阳，哪怕有火药武器的帮助也因为洛阳城墙厚达五丈，李唐制造的低劣火药根本无法将其炸塌，洛阳城的久攻