Schmitt Pál 1942-ben született Budapesten. 1965-ben a Marx Károly Közgazdaságtudományi Egyetem belkereskedelem szakán szerzett diplomát. 1992-ben a Testnevelési Egyetemen doktorált, ugyanitt 1994-től 2012-ig címzetes egyetemi tanár volt.
Sportolói pályafutását 1955-ben kezdte, párbajtőrvívóként egyéniben kétszer nyert magyar bajnokságot, 1965 és 1977 között 130 alkalommal szerepelt a válogatottban. A párbajtőrcsapat tagjaként 1968-ban és 1972-ben olimpiai bajnoki címet szerzett, 1970-ben és 1971-ben világbajnok lett.
1965-től a HungarHotels Vállalatnál dolgozott, 1976-ban kinevezték az Astoria Szálló igazgatóhelyettesévé. 1981-ben a Népstadion és Intézményei főigazgatójává nevezték ki, 1983 és 1988 között az Országos Testnevelési és Sporthivatal elnökhelyettesi tisztségét töltötte be.
A Magyar Olimpiai Bizottságban (MOB) 1983-tól a főtitkári, majd 1989 és 2010 között az elnöki teendőket látta el, 2010 óta a MOB örökös tiszteletbeli elnöke. 1985-től 1990-ig a Magyar Olimpiai Akadémia Tanácsának elnöke volt.
1983-ban beválasztották a Nemzetközi Olimpiai Bizottság (NOB) tagjai közé. 1991-ben lett tagja a NOB végrehajtó bizottságának, 1995-1999 között a NOB alelnöke, 1995-től 2013-ig a NOB Sport és Környezetvédelmi Bizottságának elnöke, 1999-től a sportszervezet protokollfőnöke, 1999 és 2007 között az Olimpikonok Világszövetségének elnöke is volt. NOB-tagsága idén életkora miatt megszűnik, a továbbiakban a szervezet tiszteletbeli tagja lesz.
Diplomáciai pályafutása 1993-ban kezdődött, amikor kinevezték madridi nagykövetnek, 1995-ben akkreditálták Andorrába is.
1999-ben Svájcban lett nagykövet, és akkreditálták Liechtensteinbe is. 2002-ben az önkormányzati választásokon a Fidesz és az MDF támogatásával független jelöltként indult Budapest főpolgármesteri tisztségéért.
2003-ban belépett a Fideszbe, 2003 és 2007 között a párt alelnökeként tevékenykedett. A 2004-es európai parlamenti választásokon a Fidesz listavezetőjeként bekerült az Európai Parlamentbe, 2009-től az EP egyik alelnöke, elnökségének tagja volt. Európai parlamenti képviselői mandátumáról 2010 májusában mondott le, miután az áprilisi országgyűlési választásokon a Fidesz országos listáján képviselői mandátumot szerzett.
Schmitt Pált 2010. május 14-én az Országgyűlés elnökévé választották, e tisztet államfői beiktatásáig látta el.
2010. június 29-én az Országgyűlés Magyarország államfőjévé választotta, tisztségébe augusztus 6-án iktatták be. Az államfői tisztségről 2012. április 2-án lemondott, döntését azzal indokolta, hogy a kisdoktori értekezésével kapcsolatos plágiumügy megosztja a nemzetet.
Schmitt Pál 2014 novemberében a Magyar Paralimpiai Bizottság (MPB) tiszteletbeli tagja lett, 2015 júniusában a NOB végrehajtó bizottsága a Közügyi és Társadalmi Fejlődés Bizottságának tagjává nevezte ki.
2015 őszén elnökként beválasztották az Európai Unió külkapcsolataiban a sport szerepét értékelő szakértői csoportba. 2016. január 14-től 2017. március 1-ig az Olimpiai Védnökök Testületének (a 2024-es budapesti olimpiai és paralimpiai pályázat megvalósítását támogató szervezet) elnöke volt.
2021-ben felkérték a sporthagyományőrző szervezetek munkájának koordinálására, több egyetemen oktat olimpiatörténetet, sport és politikát, illetve protokollt. Felesége Makray Katalin olimpiai ezüstérmes tornásznő, házasságukból három lányuk született.
Pályafutása során számos kitüntetéssel ismerték el, többek között 1992-ben Magyar Köztársasági Érdemrend középkeresztjével, 1993-ban a Magyar Köztársasági Sportdíjjal tüntették ki. 2020-ban a Halhatatlan Magyar Sportolók Egyesületének tagjává választották. 2014 óta a Nemzet Sportolója cím birtokosa.