Az igazi áttörést természetesen a Prost-istállóval kötött szerződése jelentette. Nem volt könnyű dolga az első évben: az AP03 közismerten nehezen vezethető, ráadásul nagyon megbízhatatlan volt, így igazán esélye sem adódott pontot szerezni. (Csapattársa, a nála sokkal rutinosabb Jean Alesi is képtelen volt erre.) Év végére a hangulat is megromlott, mert a pályán két versenyen is ütközött Alesivel.
Peter Sauber csapatfőnök megelégedésére 2001-re a svájci istállóhoz szerződött, mindkét fél legnagyobb örömére. A csapat tagjaival jól kijön Heidfeld (ez azért is könnyebb, mert anyanyelvén kommunikálhat velük), ezen felül az alá rakott járművekkel is elégedett. Első sauberes évében például életében először dobogóra állhatott, összetettben pedig nyolcadik lett, ugyanannyi pontot szerezve, mint Jacques Villeneuve.
2002-re ugyancsak - úgy néz ki - ütőképes autót hoztak össze a svájciak, de új lesz a csapattársa is: a tavaly remekül bemutatkozó Kimi Räikkönent (Heidfeldet bántotta, hogy helyette a finnt vitte el év végén a McLaren) Felipe Massa váltja. A húsz éves brazillal aztán nem lehet gondja Quick Nicknek.