A Giuseppe Meazza stadionban ugyan tárt karokkal és nagy örömmel fogadták, de azt hamar meg kellett tapasztalnia, hogy a Milan teljesen más, mint a Cannes: amíg a francia élvonalban állandó kezdő játékos (sőt csapatkapitány) volt, a piros-feketéknél nem sok esélye volt rá, hogy a kezdő csapat közelébe férkőzzön (akkortájt olyan védekező középpályásai voltak a milánói klubnak, mint például Demetrio Albertini, Stefano Eranio vagy Marcel Desailly).
Első mérkőzését 1996. március 31-én, a Piacenza ellen játszotta az olasz élvonalban, amelyet a szezon során csupán további egy szereplés követett (akkor még bizonyára nem gondolta, hogy harmadik Serie A-s összecsapására csaknem egy évtizedet kell majd várnia), de Patrick a szezon végén így is olasz bajnoknak mondhatta magát. A nyári felkészülést becsülettel végigdolgozta Olaszországban, abban a reményben, hogy az új idényben jóval több lehetőséget kap majd a játékra - és így is történt, igaz, Londonban.
Az Arsenal FC frissen kinevezett vezetőedzője, Arsene Wenger ugyanis kinézte magának Vieirát, és hatmillió fontot sem sajnált az Európában (hát még a szigetországban) teljesen ismeretlen játékosért. Ő lett Wenger első új szerzeménye és egyben az Ágyúsok első francia focistája.
A kiváló fizikai adottságokkal megáldott, nagy munkabírású és igen technikás középpályás azonnal bejátszotta magát a londoniak kezdő csapatába: már első idényében is szinte rá épült a csapat taktikája, rengeteg labdaszerzésével és pontos indításaival néhány hónap alatt a gárda egyik legfontosabb játékosává nőtte ki magát. Ray Parlourrel kiváló párost alkotott a pálya közepén, a csatárok, Ian Wright és Dennis Bergkamp rengeteg gólt szereztek a duó átadásaiból. Vieira összesen 31 bajnoki mérkőzésen szerepelt a szezonban, és két gólt ért el, de a bajnoki címet klubja nem tudta megszerezni. A Manchester United 75 ponttal végzett a táblázat élén, a Newcastle United, az Arsenal FC és a Liverpool FC egyaránt 68 ponttal zárt.
Patrick számára még egy sikert hozott az idény: 1997 februárjában Aimé Jacquet szövetségi kapitány meghívta a francia nagyválogatottba, sőt Hollandia ellen pályára is lépett a középpályás. Vieira szerepelt a nyári Tournoi de France-on is, csapata mindhárom találkozóján lehetőséget kapott (az angolok ellen végig a pályán volt, az olaszok és a brazilok ellen csereként szállt be).
A következő, 1997-98-as idény pályafutásának egyik kétségtelenül legsikeresebb szezonja volt: az Arsenalban 33 találkozón szerepelt (ismét két gólt szerzett), csapata pedig nem kis részben az ő kiváló játékának köszönhetően lehajrázta a Manchester Unitedet, és megnyerte a bajnokságot. Az ekkor már négy franciát (rajta kívül Emmanuel Petit-t, Nicolas Anelkát és Gilles Grimandit) a soraiban tudó Ágyúsok ráadásul a FA-kupát is elhódították (a döntőben a Newcastle Unitedet verték 2-0-ra), így Patrick (Petit-vel együtt) önbizalommal telve várhatta a hazai rendezésű világbajnokságot.