Mahmúd Abbász a galileai Szafed (Cfat) városában született 1935-ben. Izrael 1948-as megalakulását követő első izraeli-arab háború alatt sok más palesztinhoz hasonlóan maga is menekültsorsra jutott. A 60-as évek legelején csatlakozott az Arafat vezette Fatah mozgalomhoz, a 70-es évek végén pedig Moszkvában doktorátust szerzett a cionizmusról írt disszertációjával.
Ezen időszaktól kezdte el hangoztatni azt a nézetét, amely szerint az izraeli-arab konfliktus nem oldható meg a zsidó állammal folytatott párbeszéd nélkül. Abbász 1982-ig Libanonban élt, majd miután innen elűzték, Tunéziában volt száműzetésben.
A kulisszák mögött, háttérben dolgozó Abbász az 1993-ban, Oslóban kötött izraeli-palesztin békeszerződések egyik létrehozója volt. 1994-ben tért vissza palesztin területre, 1996. május 22-én pedig a Palesztinai Felszabadítási Szervezet (PFSZ) főtitkára lett, s ugyanezen a napon hivatalosan kijelölték Arafat elnök utódaként is.
Az inkább mozgalmi nevén, Abu Mázenként emlegetett politikus Arafat jobbkezének számított, mielőtt a palesztin hatóság vezetője 2003. március 7-én kormányalakításra kérte fel.
A miniszterelnöki posztot 2003. március 19-től szeptember 6-áig töltötte be. Palesztin kormányfőként arra törekedett, hogy valódi hatalom birtokosa legyen. Az izraeli-palesztin konfliktus békés rendezésének szószólójaként ismert Abbász bírálta a 2000 szeptemberében meghirdetett második palesztin felkelés (intifáda) fegyveres jellegét, és inkább az Izraellel szembeni békés ellenállásra buzdította a palesztinokat.
Abbász hiteles tárgyalópartnernek számított az izraeliek szemében, emiatt azonban kevésbé volt népszerű a palesztin lakosság körében. Meggyőződése szerint a palesztinok csak a nemzetközi béketerv alapján remélhetnek továbblépést.
A palesztin szélsőségesekkel sem kívánt leszámolni, hanem folytatni akarta velük a párbeszédet. Szeptemberre hatalmi válság alakult ki, Abbász szerette volna elérni, hogy teljes ellenőrzése alá vonhassa a palesztin biztonsági szerveket, hogy hatékonyan felléphessen a radikális csoportok, elsősorban a Hamász és az Iszlám Dzsihád ellen. Arafat azonban a nyolc ilyen szervezet közül négy vagy öt esetében vonakodott az ellenőrzés átadásától. A hatalmi harc 2003. szeptember 6-án Mahmúd Abbász miniszterelnök lemondásához vezetett.