东海王越既复为太傅，总摄朝政，恐诸王在内有异，复以司马睿为琅邪王，以司马羕为西陽王，以司马祐为汝陽王，以司马宗为南顿王，以司马纮为彭城王，诏各就国。于是，五王不敢停留，各领家眷同舟渡江归国去讫。越又恐河间王虓在外为乱，奏帝诏征虓为司徒。虓就征，入朝赴职。时南陽王司马模在许昌，闻得朝廷征虓为司徒，恐虓再预政，不利于己，即遗将王因以千人半路邀杀之。
时朝廷已知虓被模杀，以虓罪重，故不责模。时越大会谋臣，计议北藩之事。当长史刘舆曰：“东燕王腾守并州，今并州饥馑，人民离散，更兼胡寇连年人寇，深为可忧。明公欲为靖天下之计，宜令一能将替镇之，不然并州非复国家有也。”
越曰：“谁人可去镇之？”舆曰：“刘琨智勇双全，此人就镇，可寄北面之重。”于是，越即遣刘琨镇并州，以为北面之重。
而进东燕王司马腾为新蔡王以镇邺。琨至上党，腾即自井陉东下。时并州饥馑，数为胡寇所侵掠，吏民万余人悉随腾就谷冀州，号为“乞活”。所余户不满二万，寇贼纵横，道路既塞。
琨募兵上党，得五百人，战斗而前。至晋陽，府寺焚毁，邑野萧条，琨抚循劳徕，流民稍集，并州稍安。