A Magyar Labdarúgó Szövetség (MLSZ) honlapjának szerdai gyászjelentése felidézi, hogy az egykori hátvéd 1960. március 29-én született Nagybátonyban. A helyi Bányász igazolt játékosa volt 1974-től, majd három évvel később átkerült a Salgótarjáni BTC-be.
A legendás edző, Lakat Károly keze alatt játszott az NB II-es csapatban 1978 tavaszán, majd nyáron az Újpesti Dózsa igazolta át. Addigra már bemutatkozott az ifjúsági válogatottban.
Első élvonalbeli idényében bajnoki címet nyert a fővárosi lila-fehérekkel, közben 1979 őszén részt vett Japánban a junior-világbajnokságon.
Ő volt a csapatkapitány egy olyan erős keretben, amelynek aztán hat tagja is eljutott a nyolcvanas években felnőtt világbajnokságra.
Az Újpesttel a bajnoki címet követően kétszer ezüstöt szerzett, háromszor Magyar Népköztársasági Kupát nyert. Klubcsapatában 1979 és 1987 között 229 NB I-es mérkőzésen 37 gólt szerzett. Az MLSZ 1983-ban az év legjobb játékosának választotta.
Kardos József gólja az 1986-os vébé selejtezőjének első meccsén Ausztria ellen (ezzel lett 3-1 a végeredmény)
Pályafutását a Vasasban, majd a görög Apollon Kalamaria együttesében folytatta, később a Dunakeszi VSE és a Váci Izzó MTE játékosa is volt. Ezután kisebb csapatokban játékos-edzőként tevékenykedett.
A felnőtt válogatottban 1980 és 1987 között 33-szor lépett pályára és négy gólt szerzett. Mindhárom magyar mérkőzésen szerepelt az 1986-os mexikói világbajnokságon.
Játékos-pályafutása befejezését követően évtizedeken át edzőként dolgozott, az utóbbi években az MLSZ ellenőreként tevékenykedett.