于是石勒以兵败休整为由，带着部众撤回了河北，等同于放开了汉国的南大门，让匈奴人自己担起了抵御祖逖北伐的任务。汉国皇帝刘聪自是不敢懈怠，派太子刘粲领兵十万进攻洛阳，想着给这位储君一个捞功的机会。只是事与愿违，虽然刘粲侥幸拿下了洛阳，但是很快就在祖逖援军的夜袭中再次丢了洛阳，十万人马折损过半，刘粲只得灰溜溜地逃回黄河以北。
逃回去的刘粲立即建议自己爹刘聪速速杀了司马邺，因为据他所说，当时祖逖那帮子手下追击他的时候可是口口声声喊着要活捉他来赎回司马邺的。所以，为了打击北伐军的士气和决心，司马邺必须死。刘聪却不怎么赞同儿子的观点，因为之前自己已经杀过司马炽了，可结果呢，晋朝不还是换了个人顶上嘛，所以杀这些死老虎毫无作用。
可是刘粲态度坚决，他说当初武王伐纣，周武王也不想杀武庚，可结果呢，后来闹出个“三监之乱”。现在司马邺就是祖逖北伐的大旗，为今之计只有砍掉这面大旗才能瓦解汉人的斗志！
刘聪被说得有些动心了，于是准备试探下司马邺的影响力，当然试探还是老规矩——青衣蓑酒。结果还是一个样子，晋朝旧臣又是一阵子哭闹，事后刘聪只得下令将司马邺和这帮旧臣全部杀掉了，这件事发生在公元317年年底。
