朝议改元中平。
太祖开府，拜韩当为卫将军属司马；吕范为卫将军长史；娄圭、戏忠为卫将军从事中郎，王修、枣祗为卫将军令吏，魏越为领官骑。时河内屡遭匪患，闻太祖至，盗贼逃匿，士民鼓舞，沿途见白马辙箪瓢迎之。太祖素闻河内司马直有贤名，即往访之，相谈甚欢。直荐张氏三子范、承、昭，及常林、韩玄、杨俊、王象、韩浩、方悦、郝萌、赵咨、司马朗等，太祖皆辟之。一时俊杰毕集。官寺之中，芝玉遍植；廨房之内，琳琅满目。太祖坐而观之，大喜曰：“河内英杰，尽入吾彀中矣！”
居数月，河内将治。而洛阳南宫罹于祝融，灵帝诏天下纳修宫钱每亩十文。太祖不豫，然尤勉力为之。不数日，又诏各州郡发材木文石，部送京师。太祖大怒，欲抗其乱命，忽闻河北黄巾复起，前钜鹿太守郭典战殁。又闻朝廷迫司马直为钜鹿太守，直不忍为，至孟津，仰药而死。太祖急驰孟津，于河上逢公孙范，言刘宽已薨，后事尽托太祖，有遗书予之。太祖奉书泣涕，乃入洛求辞，灵帝许之。太祖于是遍售洛中产业，得千金，尽沽美酒，言刘师好酒，请往吊者俱饮一觞。扶灵至孟津，将别，与众割瓶对饮，誓不出一文钱买官，而终将复还，廓清朝廷。时袁绍在侧，闻而大异之，遂以太祖为劲敌。
太祖往葬宽王屋山下，已毕，自北返辽西，常林、韩浩自请从之。遗卫将军印绶于洛，灵帝遣使追而与之。凡三次，乃受。行至赵国，流民多识白马义从，遂尾随从之，至于逾万。太祖不忍弃之，分义从护之缓行而北。至广阳，从者愈多，太祖虑其老弱者众，不耐辛苦，遂改至昌平屯田，于其地立卫将军府、白马义从驻地及私学。与吕范以下皆自劳作，骈手胝足，夙兴夜寐。抑制豪强，清丈田亩，查察隐户，编练什伍，三年而其地大兴。名士沮宗、杜畿、京泽等，俱往投之。
太祖居广阳，闻凉州反复，傅燮殉难，常自喟叹。稍倾，冀州刺史王芬以许攸为使，言废立之事，太祖怒而斥之。及攸走，太祖临星河而叹，左右或知其意，俱劝：“天子昏乱，遂令君侯不容于朝。今天下已叛，而兵不足自守，幽州乡里被君恩德，愿必从之。当安居广阳，率厉义徒，见有道而辅之，以济天下。”太祖大叹：“天子固昏，然关西之乱，傅南容何辜？王芬之悖，冀州百官何苦？兼两地黔首，固多牵累，当有所为。”左右遂止。
中平五年，冬，大将军何进以信与太祖，言失兵权，或碍诛宦事，太祖闻之，自引私兵轻骑至河内，洛中北军、西园多太祖旧部，纷纷来谒。洛中宦官闻之，乃语于灵帝，以诏付司隶校尉张温，使其诏太祖入洛。及至，太祖悬剑于辕门，张温见而叹之，竟羞惭而走。十月，灵帝阅兵平乐观，终不能胜，进乃重掌兵权。
十一月，凉州贼十万入三辅，直逼长安。进以贼悍，非名将不可胜，乃雪夜过河往请太祖。感其诚，许之。遂拜太祖为将，诏发三河五校，整军两万余西讨。闻太尉府兵曹掾贾诩善谋略，征为军司马，掌军律。五校阉宦子弟泰半，闻太祖为将，咸恐。至函谷关，有赵忠族弟赵延聚将不至，太祖持节立斩之。军中震动，遂使如臂指。至雍县，合皇甫嵩、董卓军，立营汧水。坚壁高垒，固守不出，唯多发斥候日探贼动向。
中平六年正月，太祖知贼挫于陈仓，月余不能下，粮尽思退，遂整军至陈仓东立营。时吕范急信至，言幽州乌桓、鲜卑作乱，隔断辽东，张举占管子城僭称天子，太祖默不外传。自与嵩、卓约贼首韩遂、马腾、王国等相会，定以明日交战。临别赠信于遂，行反间之计。初十，以徐荣统全军骑兵，吕布领白马义从为锋，一阵而破贼，斩首逾万。又先遣韩当率两千骑断敌之后，驱贼至渭河。贼蜂拥履冰渡河，冰破，陷死者数千。余众乃降，可三万余。侥幸走脱者不足万数。太祖以贼性恶而畏威，乃行十一抽杀之惩。锤杀贼首王国、李相如、成公英等。韩遂等隔河望见，肝胆欲裂，终生不敢复东。事毕，太祖即委全军于嵩，携白马义从疾返幽州。临行，问将来于诩，诩曰：“君侯若迟至，可自冀州转河内；若早，何妨行于并州。”太祖然之。
关中既安，朝廷以功赐太祖节杖，使统幽州塞内诸郡及中山、常山郡武事。二月，太祖至范***知敌情，乃大发幽州五郡精骑，自率义从至卢龙塞。丙辰，灵帝崩。
三月，太祖以高顺领本部三千为前锋，魏越副之，自将七千骑为中军出塞。一战而下管子城，俘张举，斩首传示幽州。闻柳城空虚，乃留顺守城，自引军渡大凌河，欲急取之。行未半，忽有段部鲜卑遣使来报，告乌桓单于丘力居引兵两万伏于小凌河东，正星夜而来。时众篝火啜热汤于野，咸失色惊立，汤流满地，唯太祖不动容，徐徐啜引，复举碗曰：“此碗可扣贼！”众迺安。太祖以敌众我寡，乃回渡大凌河，欲与顺合军。贼急追之，战于河畔，稍不利。赵云时为曲长，见事急，率本部十八骑并力冲阵，凡七进七出，斩将搴旗，当者披靡。俟汾黑獭助之，遂溃敌阵。魏越、韩当、娄圭等，亦相继来救。丘力居料不能胜，退返柳城。适大雨，太祖料贼必不备，率一万五千骑缀其后，夜袭柳城，拔之，俘斩丘力居。赵皇后父苞时为辽东太守，亦发兵击破辽东乌桓，追斩敌酋苏仆延。乌桓遂平。朝议谥灵帝曰“灵”，改元光熹。
四月，丘力居子楼班引鲜卑轲比能一万骑往攻柳城，太祖大破之，斩楼班。乌桓王裔断绝，遂迁其各部，建辽西三卫，编户齐民，各施赏罚。乌桓自是归心，为太祖前驱凡数十年。
太子辩即位，太后临朝。大将军何进与袁绍谋诛宦官，太后不听。进乃召边军三路，募兵五路，又欲以太祖为后援，镇压局面，以胁太后。书至辽西，太祖见而笑之曰：“阉竖之官，古今宜有，但世主不当假之权宠，使至于此。既治其罪，当诛元恶，一狱吏足矣，何必纷纷召外将乎？欲尽诛之，事必宣露，恐吾未至而见其败也。”未几，十常侍果刺进于南宫嘉德殿，洛中大乱，各相攻杀，事在《后汉书》。唯公孙越引兵护进家眷至河内，保其苗裔。
太祖自塞外返，至沮阳，大宴幽州诸功臣、两千石，兼会州牧刘虞。虞自虑柔弱，遂委州政于太祖。
七月，太祖闻董卓暴虐，擅行废立，鸩杀太后，乃于常山会盟，誓言讨之。河北诸郡守多至，公推太祖为盟主。田丰闻之往投，献策自并州取洛阳关中，太祖喜，拜为右军师中郎将。遂以吕范留守，程普佐之，自将兵两万讨卓。时袁绍亦于酸枣会盟讨卓，中原诸侯多从之。陶谦于徐州会盟，淮扬诸侯多从之。卓闻之恐，有迁都关中之念。