刘聪死于麟嘉三年（即公元318年），在位九年。之后即位的是其子刘粲。
刘粲字士光，史载其“少而俊杰，才兼文武”（《晋书·载记第二》），似乎又是位有为君主。然而，在刘粲担任丞相的时候，即“威福任情，疏远忠贤，昵近奸佞，任性严刻无恩惠，距谏饰非”（《晋书·载记第二》）。他还喜欢大兴土木，建造宫室，“相国之府仿像紫宫”，工人日以继夜，“饥困穷叛，死亡相继”，而刘粲“弗之恤也”。（《晋书·载记第二》）
刘粲即位时，刘聪的妻室靳氏等人都未满二十岁。史载“（刘）粲多行无礼”（《资治通鉴·晋纪十二》）。更有“粲晨夜烝淫于内”的记载（《晋书·载记第二》）。真可谓纲常大乱，令人震惊。
此时，心怀异志的靳准劝说刘粲诛杀众大臣，意在制造混乱、铲除异己，以成其阴谋。刘粲初不答应，靳准让自己的两位女儿去说服刘粲。结果刘粲果然听了枕边人的话，杀害了太宰、上洛王·刘景，太师、昌国公·刘顗，大司马、济南王·刘骥，大司徒、齐王·刘劢等诸位宗室大臣。又治兵于上林，谋讨石勒。
自此以后，刘粲荒耽酒色，军国大事皆委任于靳准。靳准大权在握，又见朝中的刘氏宗王消灭殆尽，终于露出了其真正面目，开始了他的谋反行动。
靳准起初准备同德高望重的金紫光禄大夫·王延谋划叛乱之事，被王延给拒绝了。不但如此，王延还准备去刘粲处告发靳准。结果在半道上被靳准的兄弟靳康捉住。靳准遂带兵入光极殿，命甲士活捉刘粲，列其罪而杀之。又将刘氏宗族不分男女老少皆斩于东市，刘渊一族几乎灭绝。随后又掘开刘渊及刘聪的陵墓，斩了刘聪的尸首，焚了刘氏宗庙。
而后，靳准自称大将军、汉天王，“称制，置百官”，并对安定人·胡嵩说：“自古无胡人为天子者，今以传国玺付汝,还如晋家。”胡嵩不敢接受这项任务，靳准大怒，杀了胡嵩。
之后，靳准派使者告司州刺史·李矩曰：“刘渊，屠各小丑，因晋之乱，矫称天命，使二帝幽没。辄帅众扶侍梓宫，请以上闻”（《资治通鉴·晋纪十二》）。李矩立马将此事告知于晋元帝·司马睿。晋元帝派太常·韩胤等人迎回了梓宫（梓宫即帝王、皇后或大臣的棺材。此处应是指怀、愍二帝的棺木）。
