Fitos Zala megyében kezdte a pályafutását, később pedig a Haladás és a Budapest Honvéd középpályása volt, mielőtt Görögországba szeződött légiósnak a Panathinaikosz, majd a Panioniosz csapatába. Játékoskarrierje utolsó éveit ismét Magyarországon töltötte: az Újpest és a Hargita játékosa volt.
A kispestiekkel háromszor nyert magyar bajnokságot, a válogatottban pedig 1985 és 1989 között 12-szer lépett pályára, emellett kétszeres olimpiai válogatott is.
A Honvédnál utánpótlás-igazgató, majd megbízott vezetőedző is volt. Később az Ózd, a szentendrei Sze-Fi LSE és a Gázgyár együttesét is edzette, 2017-től pedig a Leányfalu SE szakmai munkájáért felelt.
A Szentendre Média tájékoztatása szerint Fitos József családja szerető körében távozott péntek este, miután majdnem egy évig küzdött egy súlyos betegséggel.