Koslowski 1937-ben született Gelsenkirchenben. A korábbi kiváló támadó a BV Buer 07 csapatában kezdett el futballozni, majd a Schalke 04 korosztályos csapatában folytatta pályafutását, ahol 1955-ben mutatkozott be az első csapatban. Az 1957/58-as idényben megnyerte a Bundesligát az együttessel – máig ez a hétszeres bajnok klub utolsó bajnoki címe – ráadásul Koslowski szerezte a Schalke történetének első gólját a német élvonalban.
Willi Koslowski 1962-ben, pályafutása csúcsán három alkalommal is pályára lépett a nyugatnémet válogatottban, egy uruguay elleni barátságos meccsen gólt is szerzett, emellett a Svájc elleni csoportmérkőzésen pályára lépett a chilei világbajnokságon is, ahol a negyeddöntőig menetelt a válogatottal.
A korábbi kiváló csatár később megfordult még az RW Essen, az Eintracht Gelsenkirchen és az Eintracht Duisburg együttesében is, majd 1974-ben a Concordia Bochum labdarúgójaként vonult vissza az aktív labdarúgástól.
A visszavonulása után 1981 és 1984 között a Schalke amatőrcsapatát irányította. 2014-ben a gelsenkircheni csapat a klub tiszteletbeli tagjává választotta.