Изначально его арестовали в рамках возвышения Маленкова - в МГБ пришел Игнатьев, человек Маленкова. Абакумова обвинили в пособничестве врачам-вредителям, ленинградцам и попустительству евреям-террористам.
После смерти Сталина по инициативе Берия эти дела были пересмотрены, Игнатьева скинули. Многих сотрудников МВД, осужденных по делу Абакумова, вернули обратно. Однако сам Абакумов Берии был не нужен и даже опасен.
После же свержения Берии Маленков и вовсе уничтожил Абакумова. На сей раз его обвинили, наоборот, в фабрикации ленинградского дела.