321年，晋元帝为了对付王敦，任命戴渊为征西将军、都督司兖豫并雍冀六州诸军事、兼任司州刺史，持符节，出镇合肥。
祖逖闻之，心下一动，他认为戴渊虽有名气，但不够远见卓识，居然受到如此重用，相比之下，自己辛苦收复河南，抗击石勒，威慑王敦，战绩众多，北伐之路都被打通了，却仍不得朝廷重用，令人心生沮丧。
又听说王敦声势浩大，不但掌控了长江中上游的军队，而且统辖州郡，自收贡赋，几乎断了祖逖的粮道，极大地阻挠了祖逖的北伐，更是令人郁闷。
同时戴渊的到来还暗示着一个更大的麻烦，说明王敦对东晋政权造成了极大威胁，司马睿想调动他去平息内乱，朝内矛盾日益尖锐。现在都什么时候了，还有心情搞内斗，这晋朝还能看到希望吗？他忧心如焚，担忧北伐大业难以实现，心情激荡难免生了病。
王导和庾亮等人听说祖逖身体欠安，居然从建康赶过来，看望祖逖。
祖逖虽然心内痛楚，胃内翻滚，还是装作没事人一样，和两位谈笑风生。
王导忽然看见堂下有很多皮袍，相当名贵，一叠一叠的，排得满满的，很是乍眼。
王导和庾亮等人感到很是奇怪，看祖逖居室简陋，一无装饰，怎么还有这些东西？于是笑着问祖逖这是哪里来的。
祖逖抿了抿嘴，笑道说：“昨天夜里，他们又出去走了一趟。”
王导等人心下了然，这是又出去劫富济贫了！祖逖并不迂腐，有时候还很江湖，所收募的宾客，多为江湖义士，刚烈忠勇，而他对他们也不客套，就如同兄弟子女一样，因此这些忠勇之士，甘愿为祖逖效力。
从扬州开始，闹大饥荒时，这些门客时常去打劫富豪之家，然后周济百姓，祖逖知晓后也假装不知，并不阻拦，反而是默许了他们的行为。
有时候见他们大包小裹地往府里拎东西，还揶揄他们说：“你们又到南塘外面跑了一趟吗？”
这些义士都笑而不答。
当然人有失手，马有失蹄，遇到豪强之家戒备森严，也有不小心被当地差吏抓获的时候。
祖逖都会想办法把他们营救回来，弄得这些豪强哭笑不得，翻脸吧，犯不上又惹不起，都是些钱粮珍宝，又不害人伤命，不翻脸吧，这也太憋屈了！
王导拍了拍这些皮袍，笑道：“好东西，都是上好的貂皮，正好冬天御寒之用！”
祖逖也轻咳了一声，没有接话。
“你的身体怎么样了，吃的什么药啊？可好些了？”王导是真关心，并没有什么沟沟叉叉的恶意。
祖逖虽然心内忧郁气愤，但是面色缓温和，道：“好多了，我一会儿还得出去，城南没有坚固的屏障，一旦有军事发生，可不是小事，正派人营建修缮武牢城，工程进展有点慢呢！”话语当中透露出一丝忧虑。
王导看了看他道：“军事要塞修建总是费时费力，你也不要着急，让手下人看着就好，也不必亲力亲为的，倒是要保重身体才是最重要的，我从江南来一趟不容易，可有什么事，需要我顺便帮你办理的？”
祖逖凄然一笑，他再怎么硬撑，王导也能看出他病得不轻，于是想让他交代一下后事。他笑了笑说：“我没有北伐成功，河北之地仍然在胡人石勒手中，总觉得对不起国家，也辜负了翘首以盼的百姓………至于我个人的事，没什么可交代的。”
王导与庾亮等人出来，谁也不说话，都唉声叹气，愁眉苦脸。
这边祖逖送他们离开，又换了衣服，准备去工地监工了。
是夜，河北一人抬头望着天空，忽然指着天空一角，诧异道：“那里出现了一颗妖星吗？”此人正是后赵石勒，于是赶紧招来司理天像的官员询问。
司理官回答道：“豫州分野出现妖星，西北大将当亡！”
石勒一拍手，哈哈大笑道：“祖逖命不久矣！”
夜观天象的还有东晋戴洋，火速进宫报告晋元帝：“妖星出现在豫州，恐怕祖逖将军不保了！”晋元帝手中玉杯落地，一阵眩晕。
而祖逖从工地回来，仰头望天，也看到了那颗妖星，之前也曾有一个奇怪的游方巫师和他预言将有妖星降临，民间传闻，妖星出现都会发生大事，比如皇帝驾崩，宰相去世，战乱发生等等！妖星出现之时，便是他离世之时，祖逖也见到了这颗星，他十分悲怆，禁不住喟然长叹，道：“看来此妖星果真是应我的身上，天欲杀我啊！个人生死事小，国家危亡事大，本想收复河北的，看来老天已经不照顾晋室天下了！”
从此祖逖卧病不起，时而糊涂，时而清醒，清醒时还不忘让部下汇报政务，没几天便仙逝而亡，终年五十六岁。
祖逖死后，豫州人民十分悲伤，他们自发组织起来，悼念祖逖，谯梁之地的百姓还为祖逖修建了祠堂，来纪念这位壮志豪情、足智多谋，百折不挠、忧国忧民的忠臣良将。他也成为了一位誉满华夏的民族英雄，为历朝历代的人所敬仰和称道。我们的伟人也曾经赞叹过祖逖：“闻鸡久听南天雨，立马曾挥北地鞭！”
后宋人胡曾也曾咏诗，表达了对祖逖病亡的历史遗憾：
策马前行到豫州，祖生寂寞水空流。
当时更有三年寿，石勒寻为阶下囚。
祖逖去世引发了一系列反应，各方有喜有忧，有的蠢蠢欲动，有的彷徨不安。
首先是晋元帝在悲伤之余，追赠祖逖为车骑将军，并考虑豫州是他打下来的，命其弟祖约接掌其部众，继续他兄长未尽的事业。
接着是后赵石勒摩拳擦掌，厉兵秣马，趁祖逖去世之机会，打算不日入侵河南，攻取豫州之地。祖逖军纪严明，祖家军也深得百姓爱戴。但是其弟祖约却在各方面与兄长相去甚远，也是的，有些人的能力是无法复制的，祖逖是军事天才，对于游击战术，集团攻坚战都很擅长，各种兵法奇谋更是运用得出神入化，要不石勒也不可能退避三舍。
祖逖确实是那个时代出现的罕见的军事家，胜可打，败亦可打，总能力挽狂澜，击败对手。他没有像韩信、白起、霍去病那样有名，只是没有一个强大的朝廷为他背书罢了！
他最终也如当年过长江中流击楫，所立下的誓言一样：如果不能收复中原，他就会像面前的大江一样有去无回！没想到居然一语成谶！让人思之潸然泪下。
祖约在接下来的战斗中，难敌石勒，连战连退，最后不得不退据寿春。祖逖费尽心力收复的河南失地，最终又被后赵石勒夺了回去。
第三个受到影响的人就是王敦，久怀逆乱之心的王敦，听闻祖逖过世也是大喜过望，他对祖逖的忌惮，也从另一个侧面说明了祖逖的厉害之处。他先前一直因忌惮祖逖而不敢有异谋，至此也开始蠢蠢欲动，东晋司马睿很快就会进入风雨飘摇之中！