A hetvenes években Rainer Werner Fassbinder filmjeinek operatőreként szerzett hírnevet magának. Többek között az 1972-es Petra von Kant keserű könnyei és a 1979-es Maria Braun házassága című Fassbinder-filmeket is ő fényképezte, utóbbiért elnyerte az Ezüst Medve-díjat Berlinben.
Később számos hollywoodi filmben is dolgozott, ő volt az operatőre A híradó sztárjai és az Azok a csodálatos Baker fiúk című filmeknek is, amelyekért előbb 1988-ban, majd 1990-ben is Oscarra jelölte őt az amerikai filmakadémia.
Számos nyolcvanas és kilencvenes évekbeli sikerfilm gazdagítja az életművét: például A Riviéra vadorzói, a Melanie Griffith, Sigourney Weaver és Harrison Ford főszereplésével készült Dolgozó lány, Az elnök különgépe, amelyben ismét együtt dolgozott Forddal, vagy a Vírus című katasztrófafilm Dustin Hoffmannal.
Francis Ford Coppolával az emlékezetes képekkel teli Drakula forgatásán dolgozott együtt, legemlékezetesebb munkakapcsolata Martin Scorseséhez fűzte, akivel hét közös filmje van. Ballhaus fényképezte Scorsese legtöbbször idézett flmjét, a Nagymenők című gengsztereposzt, amelynek több jelenete is legendássá vált. Elég csak Ray Liotta és barátnője dicsőséges bevonulására gondolni a klubban, vagy azokra a zaklatott képsorokra, amely a kokainfüggő főhős üldözési mániáját ábrázolják.
Az 1985-ös Lídérces órák-kal kezdődött a közös munka, Ballhaus fényképezte a füstös biliárdtermekbe visszatérő Paul Newmant A pénz színé-ben, ő volt az operatőre a Krisztus utolsó megkísértésé-nek és Az ártatlanság kora című kosztümös drámának, ő rögzítette filmre Daniel Day-Lewis őrjöngéseit A New York bandái-ban, és neki köszönhetjük A tégla mozgalmas képsorait.
„Több mint húsz éven keresztül nagyon kreatív munkakapcsolatban voltam Michael Ballhausszal, barátságunk szoros volt, és tartós – emlékezett vissza az operatőrére Scorsese. – Amikor találkoztunk, ő már filmtörténelmet írt Rainer Werner Fassbinderrel, és én nagyra becsültem őt. Elragadó ember volt, aki a legnehezebb helyzetben is mosolygott. Aki ismerte, az biztos, hogy emlékezni fog a mosolyára.”
„A nyolcvanas években kezdtünk el együtt dolgozni, a karrierem lejtmenetben volt akkoriban. Michael volt az, aki visszaadta a lelkesedésem a filmkészítés iránt. Számára semmi nem volt lehetetlen.”
Az Európai Filmakadémia 2009-ben Európai Filmdíjjal ismerte el életművét és az európai filmművészethez való hozzájárulását, több mint fél évszázados operatőri munkájának elismeréseként a tavalyi Berlini fesztiválon Arany Medve-életműdíjat kapott.