晋元帝一看祖逖带来这么多人，当下任用他为徐州刺史。
祖逖当上徐州刺史之后，心怀社稷，心里想着恢复北方失地，所以他对宾客义徒，暴杰勇士，对待他们，像对待自己子弟一样。
就这样，他收揽了许多人心，决定要北伐
祖逖上书司马睿说：“晋室之乱，不是上面的昏庸，而使下面的人反叛，而是由于藩王争权，自相诛灭，使得了那些少数民族有机可乘，从而毒流中原。如今黎明被残酷统治，人人有奋击之志。您如果能发威命令将士，派像我祖逖这样的人为统帅，那么郡国豪杰，必定因风向赴，志士们欣然来江南，那么，到时候就国耻可雪”
他这封上书，充分说明了祖逖是个智慧人物，因为他掌握了形势
八王之乱的形势是：藩王争权
现在的形势是：北方百姓受不了外夷统治，可以去恢复失地
司马睿刚在江南站住脚跟，哪里想着去北伐
不过，祖逖既然这么有心了，他也不能不表态，当下以祖逖为奋威将军、豫州刺史，给一千人，布三千匹，不给铠仗，人数不够，自己去招募
面对司马睿给出这样的资本，用王健林说马云的话，就是：这，这，这
这也太没把北伐当一回事了吧
祖逖的运气就是那么背想着为国北伐，收复失地，可是很倒霉，碰到不想北伐的皇帝，只给一千人，没有粮食，没有铠甲，这去攻打拥有几十万军队的石勒，简直就是去送死
这换成其他人，送死的活，肯定打死都不去了
但是，祖逖没有，他带着皇帝给的一千人马，再加上百余家人，然后，渡江，杀敌
壮哉
孔子说，知其不可为而为之，是为英雄
祖逖正是这样的英雄他明知去送死，然而，还是毅然前往
此时，他要是被敌杀死了，是英雄；要是不被敌人杀死，还成了一定规模，那只有四个字可以形容：举世无双
祖逖，就是这样的举世无双的人才
他带着人马，坐船北上。船行到中流的时候，祖逖突然拿起船楫，然后一击中流之水，大声发誓说：“祖逖不能扫清中原，再渡过这条河流回去的，就犹如此大江”
他辞色壮烈，声音慷慨，大家听了，为之慨叹，为之佩服。
真是：颖脱难藏冲斗剑，誓清行击中流楫
祖逖渡江之后，屯兵在江阴。晋元帝不是没给他武器吗他充分发挥自己动手，丰衣足食的精神，没有，就自己冶铸兵器
他兵器铸造好，跟着又招募了二千余人
这一下，人马有上万人了
石勒，你就等着我祖逖来和你一战
祖逖渡江之后，首先迎来的对手，不是石勒，而是地方豪强张平和樊雅，这俩人，名誉上是晋朝的豫州刺史和谯郡太守，实际上独霸一方，是个土皇帝。
张平有董瞻、于武、谢浮等十余部，一共数百人。
祖逖知道这伙人都是为了利益，什么道德都不讲的人。于是，引诱谢浮去杀了张平。
祖逖把张平的人马吞并之后，实力大增。
晋元帝看见祖逖人马大增，隐然成气候，当下忙下令嘉奖，派粮食运过去。由于路途遥远，许久不至，祖逖军中大饥。
樊雅看到机会了，当下派人夜袭祖逖
他的人马一入军垒，拔戟大呼，直杀向祖逖的帐营
祖逖军士登时大乱。
祖逖知道，越是危险的时候，就越要镇定，当下冷静下来，命左右迎战，同时派遣使者求救于陈川。
陈川派遣将领李头，率众救援。
这样一来，祖逖击败樊雅，占领了谯城。
祖逖对李头非常赞赏。
他当时有一匹骏马，李头见了很喜欢，但是，不敢开口要。
祖逖知道他的心意之后，二话不说，立即把马给他了。
李头感叹祖逖的恩遇，每每说："若得此人为主，我死而无恨。"
陈川听了他这话，登时大怒，把李头给杀了。
李头的亲党冯宠率其手下四百人来投奔祖逖，陈川就更怒了，对祖逖的命令，理都不理，派遣将领魏硕去抢掠豫州诸郡，捉了不少女子。
祖逖大怒，派遣将军卫策邀出击，把劫掠去的人，全部救了回来，让她们回去，一个都没留。
陈川大惧，害怕祖逖再打过来，于是，率众归附石勒。
祖逖率众大举讨伐陈川，石勒忙派他儿子石虎领兵五万救陈川。
祖逖设奇计攻击，结果石虎大败，忙忙收兵回去。
此一战，祖逖威震后赵
祖逖平时谦谦君子，温文如玉，可是，打起战来，英勇无比，狡诈无比。
他用布囊盛土如米，派千余人运上台去，又令数人担米，假装疲倦在道上休息。
石勒的兵马就后面休息的人少，当下杀了出来。
那几名士兵赶紧丢下担子逃跑了。
石勒的士兵获得米之后，以为祖逖的士众丰饱，而他们这一边已经饥饿很久了，当下更怕祖逖的军队了，没有胆气和他们交战。
祖逖又在汴水设伏，把石勒运给桃豹的军粮全部夺取了，逼得桃豹只得退守东燕城。
他击退桃豹后，又多次出兵邀截赵军，使石勒“屯戍渐蹙”，就是地盘慢慢被夺取了回去。
石勒见这样下去不是办法，当下派遣精骑万人击祖逖，哪里知道，又被祖逖所破，许多原来归属石勒的镇，又归附晋朝去了。
当时河北境内，有赵固、上官巳、李矩、郭默等势力各相攻击，祖逖派遣使者去和解，示以祸福，晓之以理，这些地方豪强接受了祖逖的任命。
祖逖对待下面的人非常好，就算是些没有地位的人，他也恩礼有加，于是，大家都归降祖逖，黄河以南，重新成为晋土。
他自己生活非常节俭，劝大家耕种，而他自己非常克制自己，除了不畜资产，还让他祖家的子弟耕耘，亲自背着砍来的柴，又去收葬枯骨，并且祭拜。
他的这些做法，让百姓大感喜悦。
有一次喝酒聚会，有老人家流涕说："我老了，还能够得到这样的父母官，虽死何恨"于是，高歌一曲："幸哉遗黎免俘虏，三辰既朗遇慈父，玄酒忘劳甘瓠脯，何以咏恩歌且舞。"
祖逖，得民心如此，真是人才啊