Játékosként ugyan csak a svéd másodosztályig vitte, de edzőként klubszinten szinte mindent megnyert, amit csak lehetséges. Pályafutását hazájában kezdte a Degerforsnál, majd az IFK Göteborggal kupát és bajnoki címet is nyert, sőt, az UEFA-kupát is elhódította.
Ezt követően kezdte meg külföldi karrierjét, amely során a Benficával a portugál bajnoki címek mellett BEK-döntőt játszhatott, majd Olaszországba tette át a székhelyét. Itáliában eleinte kevésbé volt sikeres, bár az AS Romával már 1986-ban Olasz Kupát nyert, de következő trófeáját már a Sampdoria mestereként szerezte 1994-ben. 1997 nyarán lett a Lazio edzője, és a rómaiakkal előbb KEK-et, majd bajnoki címet nyert.
Már 2000 októberében megegyezett az angolokkal, de csak az idény végén kellett volna átvennie a válogatott irányítását. Ám mivel a Lazio a vártnál gyengébben szerepelt, szerződését 2001 januárjában felbontották, és ekkor került a háromoroszlánosok élére. Első 11 mérkőzéséből mindössze egyet veszített el, tétmeccsen veretlen maradt.