司马睿见两位心腹都不赞成出兵，自己心里的火也熄了，不过还是想为自己找一个让良心安稳的理由，便说道：“祖逖赤诚之心，如果就此拒绝，岂不是寒了大将的心么？”刁协却来了这么一句：“谁知道祖逖是忠还是奸呢，陛下可不要忘了，他可是单方面和石勒媾和的，双方还互开商埠，友好往来，试问这是剿寇呢还是养寇呢？”
刁协的话语很有力，突然之间让司马睿甚至有些要责怪祖逖的意思，不过此时司马睿心里毫无负担了，他总算可以为拒绝祖逖而心安理得了。
王师没能等来，却等来一纸司马睿拒绝出兵的诏书，祖逖那颗炽热的心顿时凉到了冰点。更让祖逖难过的是，居然朝中有人污蔑他通敌卖国，想到这儿祖逖更加愤懑不平，这一气便气倒了。
病中的祖逖长叹自己北伐之功，废于一夕，他想起了刘琨，想起了当初的闻鸡起舞，想起了自己的中流击楫。可是，这一切的一切都回不去了，弥留之际，祖逖喊来了弟弟祖约，将军事托付与他便阖目而逝了。祖逖死在雍丘，终年五十六岁。祖逖死后，北方百姓无不痛哭，豫州人民更是自发为其修建了祠堂，时时祭拜，就连远在江东的司马睿也追谥他为车骑将军。