Zurab Zsvania 1963. december 9-én született Tbilisziben. A főváros egyetemén biológus diplomát szerzett, de már huszonévesen a politika felé fordult. 1988. és 1993. között a grúziai Zöld párt tagjaként tevékenykedett, 1992-ben parlamenti képviselő is lett. 1995-ben a parlament elnökévé választották, és Eduard Sevardnadze elnök szövetségeseként tartották számon.
Később az ellenzéki Egyesült Demokraták vezetője lett, évekig rivalizált Mihail Szaakasvili jelenlegi elnökkel a parlamenti ellenzék vezetője címéért. Míg Szaakasvili erőteljesebb, radikálisabb hangot ütött meg, addig Zsvania kompromisszumokra törekvő, a konfliktus helyett konszenzusra hajló politikus volt.
Zsvania nagy szerepet vállalt a 2003. novemberi választásokat követő, Sevardnadze elnök bukásához vezető tömegtüntetések, a rózsás forradalom szervezésében. A 2004. januárjában megismételt elnökválasztás Mihail Szaakasvili elsöprő győzelmét hozta, az új államfő Zsvaniát nevezte ki miniszterelnöknek.
Kormányfőként Zurab Zsvania fő célkitűzése Grúzia területi és politikai egységének megőrzése volt. A kapcsolatok rendezésére törekedett a szeparatista régiókkal, s ennek érdekében tárgyalásokat kezdeményezett velük: a Grúziához tartozó Adzsáriának önálló választásokat ígért, Dél-Oszétia ügyében a terület demilitarizálását szorgalmazta és tűzszüneti egyezményt készített elő.
Az utóbbi időben a grúz kormányzat berkeiben elterjedt, hogy Szaakasvili és Zsvania között sokasodnak a nézeteltérések, ez azonban soha nem került bizonyításra és a szélesebb nyilvánosság sem tudott e híresztelésről.