Zarkávi a 2001. szeptember 11-i New York-i és washingtoni támadások után még nem tartozott az USA által legkeresettebb 22 terrorista közé, bár egy 1999-es ammáni robbantás és egy 2002-es afganisztáni rakétatámadás kapcsán már lehetett róla hallani. Egy évvel később azonban már igen súlyos összefüggésben emlegette George W. Bush. Az amerikai elnök cincinnati beszédében azt állította, hogy ő segít Oszama bin Ladennek menedéket szervezni Irakban.
Az amerikai vezetés azon nem akadt fenn, hogy 2002 elején bejelentették: Zarkávi meghalt az afganisztáni kiképzőtábora ellen intézett rakétatámadásban. A hírt előbb többen megerősítették, később mégis finomították, az új verzió szerint Zarkávi csak súlyosan megsérült, a végső változat pedig arról beszélt, hogy lábát amputálni kellett, ezért Bagdadba szökött, ahol a beavatkozást Szaddám Huszein iraki elnök fia, Udaj egyik kórházában végezték el.
Colin Powell amerikai külügyminiszter szintén az Irakban tartózkodó Zarkávi rémével hozakodott elő az ENSZ Biztonsági Tanácsának 2003 februári ülésén, amelyen azt igyekezett bizonyítani, hogy Szaddám Huszein közvetlen kapcsolatot tart fenn a fő gonosszal, az al-Kaidával. "A terrorizmus olyan eszköz, amit Szaddám már évtizede óta használ. Szaddám már jóval azelőtt a terrorizmus támogatója volt, hogy ezeknek a csoportoknak nevük lett volna" - fogalmazott.
Ami biztosnak tűnik
Szinte minden forrás megegyezik abban, hogy Zarkávi a jordániai Zarka városában született 1966. október 20-án vagy 30-án Ahmed Fadil Al-Kalajleh néven, elszegényedett helyi, egyes források szerint palesztin családban. A történetek szerint imádott focizni, viszont kerülte az isolát és nem volt jó muszlim, szégyent hozott apjára, alkoholt ivott, kereste a bajt. 17 évesen kirúgták az iskolából, majd nem sokkal később Afganisztánba ment, hogy a szovjetek ellen harcoljon. Innen 1992-ben tért haza, de nem sokkal később 7 éves börtönbüntetést kapott a király elleni állítólagos összeesküvésben való részvétel miatt. Szabadulása után 1999-ben egy ammáni robbantással tűnt fel újra, majd nem sokkal később ismét Afganisztánba menekült, mert hazájában amerikai és izraeli turisták ellen tervezett merényletek miatt halálra ítélték.Zarkávi a Szaddám-bin Laden kapcsolat mellett arra is jó bizonyíték volt, hogy Irakban tömegpusztító fegyverek vannak. Az amerikai hírszerző forrásokra hivatkozó feltételezés szerint bagdadi munkája mellett a féllábú Zarkávi Észak-Irakban titkos kiképzőtábort létesített, ahol vegyi fegyverek előállitását és használatát tanulták a szélsőségesek. A történet alapja, hogy a térségben valóban működtek táborok Zarkávit pedig az al-Kaida fő biokémiai mérnökének tartották sokan.
A brit Observer tudósitója 2003 februárjában ellátogatott az említett táborba. Sütőmargarinon és felvágott paradicsomon kívül azonban csak néhány falnak támasztott Kalasnyikovot talált. "Mi csak egy csoport muszlim vagyunk, akik megpróbálják tenni kötelességüket. Nem adunk gyógyszert harcosainknak. Még aszpirinünk sincs. Hogyan tudnánk akkor tömegpusztító fegyvereket előállítani?" - kérdezte a tábor egyik lakója. A történet végül teljesen valótlannak bizonyult. Amikor az amerikai csapatok elfoglalták a tábort, kiderült, hogy valóban nincsenek veszélyes vegyi fegyverek a területen.
Zarkavi ezután is csak említés szintjén szerepelt a hírekben. Többször felmerült halálhíre is. 2004 márciusában iraki felkelők állították, hogy meghalt, egy évvel később pedig azt feltételezték, hogy megsérült egy rajtaütésben. Bár több iszlamista oldal szólított imára egészségéért, később mégis bejelentették: minden rendben van vele.
Az iraki hadműveletek kezdete, 2003 márciusát követően egy év alatt 116 olyan embert fogtak el Irakban vagy más országokban, akik állítólag az ő hálózatához tartoztak. Bár a feltételezések szerint ő állt a 2003. novemberi isztambuli és a 2004. márciusi madridi robbantások mögött is, személyesen csak 2004 májusában tűnt fel, amikor nyilvánosságra hozták az első lefejezős videót. Az egyik csuklyás alak, aki a kegyetlen kivégzést végrehajtotta, maga Zarkávi volt. Ezt nem csak az amerikaiak, de a felvételt nyilvánosságra hozó internetes oldal is állította. A lefejezőnek azonban nem hiányzott egy lába sem, mint ahogy azt Zarkáviról feltételezték, de az amerikai illetékesek ezt az ellentmondást letudták annyival: ezt már régóta sejtették.
A lefejezős felvétel után már megállíthatatlanul terjedt Zarkávi híre. Több mint 700 ember halálát írják a rovására, legutóbbi akciója állítólag a 62 halálos áldozatot követelő, november eleji ammáni robbantás volt, bár az amerikai hírszerzők szerint ez nem bizonyitható egyértelműen. Zarkávi fejére jelenleg - Oszama bin Ladenhez hasonlóan - 25 millió dolláros vérdíjat tűztek ki. Annak ellenére, hogy egyesek szerint az amerikai kormány csak álpropagandát folytat Zarkávival, aki már rég halott, de az amerikai katonai akciók igazolására használják. Annyi biztos, hogy 2001 óta senki nem látta, az egészségi állapotáról, illetve haláláról szóló híreket folyamatosan módositani kellett, minden róla szóló információ névtelen forrásokból származik, és a terrorista vezérről senki nem tud semmi igazán biztosat, még azok sem, akik a szülőfalujában élnek.