Már tizenévesen a román élvonal egyik legjobb védőjének számított, szülővárosának, Resitának az együttesében az 1997-98-as pontvadászatban 23 találkozón lépett pályára. A következő idényt már az Universitatea Craiova gárdáját erősítette, és itt figyelt fel rá az Ajax Amsterdam, amely 1999 nyarán igazolta le az akkor már válogatott focistának számító védőt. Chivu a holland együttesben is gyorsan meghatározó ember lett, olyannyira, hogy egy évre rá már ő viselhette a csapatkapitányi karszalagot. Ugyanezt a tisztséget hamarosan a válogatottban is megkapta, ahol már a 2000-es Európa-bajnokságon is szerepelt, majd Hagi visszavonulását követően Bölöni László szövetségi kapitány őt tartotta jobb kezének. Évről évre kiemelkedő teljesítményt nyújtott az Ajaxban, így csak idő kérdése volt, hogy mikor távozik valamelyik európai sztárcsapatjhoz: korábban hívta őt a Real Madrid, a Barcelona és az Inter is.
Az elmúlt szezonban a Bajnokok Ligájában mutatott játéka alapján tovább nőtt iránta az érdeklődés a nemzetközi porondon, nagy szerepe volt abban, hogy az Ajax bejutott a legjobb nyolc közé, és ott hatalmas küzdelemben esett csak ki a Milannal szemben. A bajnokságban is remekül ment neki a játék, az év első meccsén gólt is szerzett, majd az előző pontvadászat utolsó két találkozóján is betalált. Az amszterdami klub aztán nyilvánosan is közzétette, hogy megfelelő ajánlat esetén hajlandó megválni egyik legértékesebb focistájától, és az AS Roma 18 millió eurós ajánlata megfelelőnek is bizonyult.
Egy kis gond azért akadt a transzferrel, hiszen a Farkasok nem bővelkednek az anyagiakban, így az Ajax előbb visszarendelte a játékost, majd a felek kölcsönszerződésben egyeztek meg, amiből azóta végleges átigazolás lett. A második fordulóban így végre bemutatkozhatott a Roma színeiben, és rögtön egy pazar szabadrúgásgóllal tette le a névjegyét, majd a következő találkozón, a Juventus elleni rangadón is betalált. Az utóbbi időben ugyan sérüléssel bajlódik, de kétségtelen, hogy napjaink egyik legjobb hátvédje. Egyetlen bánata, hogy a válogatottal a tavalyi vébét követően a jövő évi Európa-bajnokságra sem sikerült kvalifikálnia magát.