西晋亡後，在北方尚有三个忠于晋朝的地区，即并州北部刘琨、幽州段匹磾、凉州张寔。然而，并州刘琨先被石勒击溃，投靠幽州段匹磾。段匹磾则奉东晋密令将刘琨处死，之後段匹磾也被石勒击败。最後，在凉州张寔去世之后，其弟张茂向前赵的刘曜称臣。至此东晋在华北的势力全部消灭。