Cauet 1969. május 2-án született Chatellerault városában, és az Olympique Marseille-ben kezdte pályafutását.
Tehetségét már korán bebizonyította, és így még nem volt 19 esztendős, amikor 1988. február 20-án bemutatkozott a francia élvonalban az OM színeiben. Az idény során 11 találkozón szerepelt, és egyszer volt eredményes, a következő pontvadászatban pedig 14 alkalommal vetették be a csapatban, amellyel az utóbbi évben bajnokságot és kupát is nyert.
Az 1989-90-es bajnokságban azonban kiszorult a gárdából, így a Caen együtteséhez távozott, ahol négy esztendőt töltött el, és meghatározó futballista volt.
1994 nyarán az FC Nantes szerződtette, és a következő évben a Kanárikkal is aranyérmet nyert Franciaországban. Ennek köszönhetően a PSG vette meg, ahol azonban csak egy évet töltött el, mivel 1997 nyarán az Internazionale igazolta le.
Az olasz klubban első három idényében egyaránt 28 találkozón vetették be, 1998-ben KEK-et nyert, de 2000 után már egyre kevesebb játéklehetőséget kapott. Az előző idényt kölcsönben a Torinóban töltött el, de a torinóiak nem tartottak rá igényt, és mivel az Internél lejárt a szerződése, így ingyen igazolhatóvá vált. A Comónak éppen kapóra jött, hogy a rutinos futballistát ingyen megszerezheti, és szerződést kínált a francia középpályásnak.