Herrlich 1971. december 3-án született, pályafutását az FC Kollnauban kezdte. Innen az FC Emmendingenbe került, de igazán ismert játékos az SC Freiburgban lett, ahová tizennyolc esztendősen, 1989-ben szerződött. A freiburgi gárdában csak egy szezont töltött el, azt is a másodosztályban, mert egy év után lecsapott rá a Bayer Leverkusen. A gyógyszergyáriak színeiben mutatkozhatott be az élvonalban az 1990-91-es szezonban, és abban az idényben összesen tizennyolc alkalommal lépett a pályára, két gólt szerezve.
A következő szezonban már többször kapott bizonyítási lehetőséget, hiszen huszonhétszer lépett pályára, és góljainak számát is növelni tudta eggyel. Ezután azonban Ulf Kirsten és Andreas Thom mellett nem fért be a csapatba, tizenhárom szerepléséből csak egyszer volt kezdő, és gólt sem szerzett. 1993 nyarán már utánpótlás-válogatottként szerződött a Borussia Mönchengladbachba, ahol jól is sikerült a bemutatkozása, mert első szezonjában nyolcszor volt eredményes. Egy évre rá pedig kimagasló idényt produkált: húsz góljával a Bundesliga gólkirálya lett, és a DFB-kupában hat gólt szerezve segítette hozzá csapatát a végső győzelemhez.
Nem is maradt Mönchengladbachban, hanem 1995 augusztusában, néhány nappal az átigazolási szezon lejárta előtt, a Borussia Dortmund csapatába igazolt. Ekkor már nagyválogatottnak mondhatta magát, hiszen a Nationalelfben 1995. március 29-én Grúzia ellen bemutatkozhatott. Első dortmundi szezonjában tizenhat meccsen hét gólig jutott, és bajnoki címet szerzett. Mivel Chapuisat és Riedle mögött csak cserecsatár volt a BVB-ben, a válogatottból is kikerült, és sokáig nem tudta visszaverekedni magát a sárga-feketék kezdő tizenegyébe, noha hat-hét gólra minden idényben jó volt. A legutóbbi szezon parádésan kezdődött a számára, 11 forduló alatt hétszer volt eredményes, amikor diagnosztizálták betegségét. Szerencsére az agyában talált daganat nem volt rosszindulatú, és a műtét is jól sikerült, így a nyáron már a többiekkel együtt kezdhette a felkészülést, és mára rendszeresen ott van a cserejátékosok között.