纷纷来谒。洛中宦官闻之，乃语于灵帝，以诏付司隶校尉张温，使其诏太祖入洛。及至，太祖悬剑于辕门，张温见而叹之，竟羞惭而走。十月，灵帝阅兵平乐观，终不能胜，进乃重掌兵权。
十一月，凉州贼十万入三辅，直逼长安。进以贼悍，非名将不可胜，乃雪夜过河往请太祖。感其诚，许之。遂拜太祖为将，诏发三河五校，整军两万余西讨。闻太尉府兵曹掾贾诩善谋略，征为军司马，掌军律。五校阉宦子弟泰半，闻太祖为将，咸恐。至函谷关，有赵忠族弟赵延聚将不至，太祖持节立斩之。军中震动，遂使如臂指。至雍县，合皇甫嵩、董卓军，立营汧水。坚壁高垒，固守不出，唯多发斥候日探贼动向。
中平六年正月，太祖知贼挫于陈仓，月余不能下，粮尽思退，遂整军至陈仓东立营。时吕范急信至，言幽州乌桓、鲜卑作乱，隔断辽东，张举占管子城僭称天子，太祖默不外传。自与嵩、卓约贼首韩遂、马腾、王国等相会，定以明日交战。临别赠信于遂，行反间之计。初十，以徐荣统全军骑兵，吕布领白马义从为锋，一阵而破贼，斩首逾万。又先遣韩当率两千骑断敌之后，驱贼至渭河。贼蜂拥履冰渡河，冰破，陷死者数千。余众乃降，可三万余。侥幸走脱者不足万数。太祖以贼性恶而畏威，乃行十一抽杀之惩。锤杀贼首王国、李相如、成公英等。韩遂等隔河望见，肝胆欲裂，终生不敢复东。事毕，太祖即委全军于嵩，携白马义从疾返幽州。临行，问将来于诩，诩曰：“君侯若迟至，可自冀州转河内；若早，何妨行于并州。”太祖然之。
关中既安，朝廷以功赐太祖节杖，使统幽州塞内诸郡及中山、常山郡武事。二月，太祖至范***知敌情，乃大发幽州五郡精骑，自率义从至卢龙塞。丙辰，灵帝崩。
三月，太祖以高顺领本部三千为前锋，魏越副之，自将七千骑为中军出塞。一战而下管子城，俘张举，斩首传示幽州。闻柳城空虚，乃留顺守城，自引军渡大凌河，欲急取之。行未半，忽有段部鲜卑遣使来报，告乌桓单于丘力居引兵两万伏于小凌河东，正星夜而来。时众篝火啜热汤于野，咸失色惊立，汤流满地，唯太祖不动容，徐徐啜引，复举碗曰：“此碗可扣贼！”众迺安。太祖以敌众我寡，乃回渡大凌河，欲与顺合军。贼急追之，战于河畔，稍不利。赵云时为曲长，见事急，率本部十八骑并力冲阵，凡七进七出，斩将搴旗，当者披靡。俟汾黑獭助之，遂溃敌阵。魏越、韩当、娄圭等，亦相继来救。丘力居料不能胜，退返柳城。适大雨，太祖料贼必不备，率一