西晋灭亡后,到唐朝之前,有很多记载晋历史的书籍,但没有前后连贯统一的版本。在唐朝贞观二十年,即公元646年,太宗李世民下诏编修《晋书》,到贞观二十二年完成。现在的版本《晋书》写的是唐太宗文皇帝御撰,虽然太宗写了宣帝(司马懿)、武帝(司马炎)、陆机、王羲之的四篇论赞,但主持编纂的是房玄龄、褚遂良和许敬宗。
唐以前纪传体的史书中,对于在今天中国境内建立过政权的少数民族的历史,大都归入列传,排在末尾。东晋时,匈奴、鲜卑等族在北方、东北、西北、西南建立很多政权,有五凉(前凉、后凉、南凉、西凉、北凉),四燕(前燕、后燕、南燕、北燕),三秦(前秦、后秦、西秦),二赵(前赵、后赵),夏和成汉共十六国。除了前凉、西凉,《晋书》将其历史作为纪传以外的独立部分,称为载记。在二十四史之中,载记是《晋书》特有的体裁。
《晋书》的书后附有唐朝何超的《晋书音义》三卷,引用了包括字书在内的很多散佚的古书,对于古典文献和文字音韵的研究很有帮助。