Az 1945 után Magyarországon kiépülő sztálinista diktatúra 1953-ra a csőd szélére sodorta az országot. A Magyar Dolgozók Pártjának (MDP) élén álló Rákosi Mátyás főtitkár, - akit központilag irányított émelyítő személyi kultusszal vettek körül -, a diktatúra éveiben szó szerint élet-halál urának számított. A nehéziparnak és a hadseregnek az ország sajátosságait figyelmen kívül hagyó erőltetett ütemű fejlesztése, a kommunista tervgazdálkodás irreális céljai, valamint az erőszakos téeszesítés nyomán kialakuló élelmezési válság sohasem látott mélységbe taszították az életszínvonalat.
A második világháború vége után az ország nyakára ültetett kommunisták csak a kíméletlen terror eszközével, a megfélemlítés általánossá tételével tudták a hatalmukat fenntartani. Sztálin 1953. március 5-én történt halála után a szovjet pártvezetésen belül kialakult utódlási harcok világossá tették,
hogy az addigi irányvonal tarthatatlanná vált.
A Szovjetunióban 1953 nyarán elkezdett desztalinizáció jegyében 1953. június 13-án Moszkvába rendelték Rákosit, és a magyar pártvezetés néhány prominensét.
A három napos moszkvai raporton „Sztálin legjobb magyarországi tanítványa" izzasztó pillanatokat élt át. Nyikita Szergejevics Hruscsov Rákosi szemére vetette többek között – az egyébként szovjet mintára megvalósított – voluntarista gazdaságpolitikát, és az életszínvonal zuhanása miatt kialakult társadalmi elégedetlenséget. Az ekkor még a főtitkári pozícióra pályázó Lavrentyij Berija, a hírhedt szovjet állambiztonsági apparátus feje, aki már Sztálin életében sem szimpatizált a magyar pártfőtitkárral, most vadul nekirontott, és megfenyegette Rákosit.
A Kremlben lefolyt megszégyenítő felelősségre vonás eredményeként Rákosi 1953. július 4-én kénytelen volt lemondani a miniszterelnöki pozícióról, amit Hruscsov és a „szovjet elvtársak" kiszemeltjének, Nagy Imrének kellett átengednie. Rákosi a háttérbe szorítását azonban egy pillanatig sem tekintette végleges állapotnak, mert úgy gondolta, hogy a Kremlben zajló hatalmi harc befejeződése után vissza áll a „régi rend". Berija bukása, és 1953 decemberében történt kivégzése tovább erősítette Rákosi reményeit.
Az átmenetileg hátrébb léptetett Rákosi alig várta, hogy kitörhesse Nagy Imre nyakát, ezért már Berija halála után óvatos intrikákba kezdett legfőbb pártbeli riválisa ellen. Rákosi Nagy Imre-ellenes körmönfont akciói nem maradtak hatástalanok Moszkvában sem; a Szovjetunió Kommunista Pártja (SZKP) Központi Bizottságának 1955. január 8-án megtartott elnökségi ülésén a szovjet pártvezetés éles kritikával illette Nagy Imrét az úgynevezett új szakasz „ jobboldali elhajlásaiért", valamint „revizionistának" bélyegzett politikája miatt, ezért „önbírálatra" és politikai irányvonalának korrekciójára szólították fel.
Rákosi számára ez volt a jeladás a Nagy elleni általános támadás megindítására. A magát ismét nyeregben érző Rákosi az MDP Központi Vezetőségének 1955. március 2-án megtartott ülésén éles hangú beszédet tartott a „szocializmust fenyegető jobboldali elhajlás" veszélyéről,
Nagy Imre személyes felelősségét hangoztatva.
A Nagynak készített selyemzsinór átadását a tanácskozáson részt vett Andrej Szuszlov, az SZKP KB ultrakonzervatív nézeteiről híres főideológusa személyesen hagyta jóvá, így Nagy Imre március 9-én kénytelen volt lemondani a miniszterelnökségről.
A bosszúra szomjas Rákosinak azonban ez sem volt elég, egyszer és mindenkorra le akart számolni veszélyesnek tartott pártbeli ellenfelével. Bő egy hónappal Nagy lemondása után, az MDP KV Rákosi indítványára Nagy Imrét „antileninista és pártellenes" nézetei miatt kizárta a Központi Vezetőségéből, és valamennyi párttisztségéből visszahívta.
Rákosi azonban hiába ünnepelt, mert a restaurációs fordulat csak átmeneti sikernek számított.
Rákosi sorsát az SZKP 1956 februárjában megtartott XX. kongresszusa pecsételte meg, Hruscsovnak a plénum előtti, a teljes desztalinizációt meghirdető híres beszédével.
A zárt ajtók mögött elhangzott beszéd részletei hamarosan kiszivárogtak, komoly erjedést idézve elő a magyar közéletben.
1956 nyarán az Írószövetségben valamint a Petőfi Körben egyre hangosabban követelték a koncepciós perekben ártatlanul elítélt emberek teljes körű rehabilitációját, a gyűlölt Államvédelmi Hatóság feloszlatását, és a törvénytelenségekért felelős pártvezetők megbüntetését. Az egyre hangosabb társadalmi elégedetlenség miatt Rákosi körül végleg elfogyott a levegő.
Szovjet nyomásra 1956. június 18-án az MDP KV ülésén – a rituális kommunista önbírálat után – bejelentette lemondását, másnap pedig jakut származású feleségével, Fenya Kornyilovával együtt
sietősen a Szovjetunióba távozott, határozatlan idejű „gyógykezelésre".
A magyar történelem egyik leggyűlöltebb diktátorának ezzel véget ért az országnak oly sok szenvedést okozó politikai pályafutása.
Az 1956-os forradalom és szabadságharc leverése után Rákosi úgy érezte, hogy ismét ütött az órája. Kéretlen tanácsokkal kezdte ostromolni a szovjet pártvezetést, az „ellenforradalom" leverése utáni „teendőkkel" kapcsolatban. Rákosi nem tudta, hogy Kádár János, a Kremlben felállított bábkormány feje csak azzal a feltétellel vállalta el a kormányelnökséget, ha a szovjet pártvezetés garantálja, hogy Rákosit nem engedik vissza Magyarországra.
A szovjet szuronyok árnyékában újjászerveződött kommunista párt, a Magyar Szocialista Munkáspárt (MSZMP) Ideiglenes Központi Bizottsága 1956 december eleji ülésén határozatot fogadott el arról, hogy az „ellenforradalom" egyik kiváltó oka a „Rákosi-klikk" bűnös politikája volt.
Kádár a határozatot politikai hivatkozási alapként használta fel Rákosi hazatérésének megakadályozásában.
A szovjet legfelsőbb pártvezetés kérésére a Magyar Szocialista Munkáspárt Központi Bizottsága 1959. november 20-i zárt ülésén azonban ismét kénytelen volt napirendre tűzni Rákosi Mátyás hazatérésének kellemetlen kérdését.
Az ülésen megfogalmazott határozat félreérthetetlenül megfogalmazta Kádár és az MSZMP vezető grémiumának álláspontját Rákosi sorsával kapcsolatban, kimondva, hogy „maradjon ott, ahol van." Rákosi ezen felbőszülve – és a saját lehetőségeit végzetesen félreértve – most már Hruscsovot is élesen kritizálni kezdte,a „tájékozatlanságból eredő felelősségét" firtatva.
Ezzel a kirohanásával a szovjet pártvezetőségnél is betelt a pohár;
a kellemetlenné váló bukott diktátort az addigi viszonylag komfortos körülményei közül egy isten háta mögötti kirgizisztáni városkába, Tokmogba telepítették, ahol egy víz és csatorna nélküli nyomorúságos kétszobás lakásban kellett meghúznia magát.
Hruscsov bukása után ismét reménykedni kezdett a hazatérés lehetőségében. Az új pártfőtitkár, a hruscsovi reformokat elvető konzervatívok embere, Leonyid Iljics Brezsnyev 1965-ben a Budapesten tett első hivatalos látogatása során fel is vetette Kádárnak Rákosi hazatérési ügyét.
Kádár azonban világosan megmondta Brezsnyevnek, ha Rákosit hazaküldik, ő lemond.
Ezzel a bukott diktátor hazatérési ügye végleg lekerült a naprendről.
Brezsnyev annyit könnyített az egykori magyar pártfőtitkár sorsán,
hogy hozzájárult a Gorkijba való áttelepítéséhez,
ahol kényelmes és komfortos lakást kapott szálláshelyül. 1970-ben – a volt diktátor halála előtt egy évvel - Kádár titokban megüzentette Rákosinak, hogy a pártvezetés a korábbi álláspontjából engedve hozzájárul a hazatéréshez, feltéve, ha elfogadja az állandó rendőri felügyeletet, és „hallgatási fogadalmat" tesz.
Rákosi azonban nem volt hajlandó elfogadni ezeket feltételeket. 78 éves korában, 1971. február 5-én a gorkiji száműzetésben érte a halál. Mivel a Farkasréti temető urnafalában lévő síremlékét a hamvai hazahozatalután folyamatosan megrongálták, a temető vezetősége levetette nevét a sírhelyről.