Boateng 1975. május 9-én született Ghánában, tízévesen került családjával együtt Hollandiába, ahol a Spijkenisse nevű egyesületnél kezdett futballozni, Rotterdam külvárosában. Itt szerepelt, amikor a Sparta Rotterdam egy tehetségkutatója felfedezte, és leigazolta.
A Spartával megnyerte a holland ifjúsági bajnokságot, teljesítményével felkeltette a nagy rotterdami egyesület, a Feyenoord érdeklődését. A patinás klub le is igazolta, és az előkészületi meccseken szerepelt is, ám az 1994-95-ös szezonban egy találkozón sem játszott a felnőttek között, sőt az idény második felében kölcsönadták a harmadosztályú Excelsior Rotterdamnak. Fél évvel később visszakerült a Feyenoordhoz, és az 1995-96-ös pontvadászatban 24 találkozón szerepelt, egy gólt szerezve.
A következő idényben még több lehetőséget kapott, ám az új edző, Leo Beenhakker jobbhátvédként vette számításba, ami nem nagyon tetszett a focistának. 1998 elején 220 ezer fontért az angol Coventrybe szerződött, ahol az angol élvonal egyik legkeményebb középpályásává nőtte ki magát. Másfél évvel később az Aston Villa 4,5 millió fontért szerződtette le, és itt olyan jól játszott, hogy 2001 novemberében a holland nagyválogatottban is bemutatkozhatott.
A nyáron úgy érezte, hogy az Aston Villa nem elég ambíciózus, ezért kijelentette, hogy távozni akar, és a birminghamiek nem is marasztalták, inkább eladták a Middlesbrough-nak. Játékstílusát leginkább Roy Keane-éhoz szokták hasonlítani, híres arról, hogy szívesen olvasgatja a Bibliát.