Az Antall-kormányban előbb rövid ideig politikai államtitkárként, szintén csak pár hónapig titkosszolgálatokat felügyelő tárca nélküli miniszterként vállalt szerepet, majd pedig a belügyminiszteri székbe került, és ott is maradt közel három évig. Antall József halála után őt választották meg helyére párttársai.
Egyik pozícióban sem a barátságos nagypapa képét mutatta, sokkal inkább sugárzott szigorúságot és határozottságot. Parlamenti életrajzában meg is jegyzik, hogy belügyminiszterként 1931-35-ben és 1938-44-ben hivatalban lévő elődjét, a "mindenkori szélsőséges mozgalmakat elutasító, erőskezűnek tartott, németellenes gondolkodású" Keresztes-Fischer Ferencet tekintette.
A szigorúság és a rendszeretet már gyerekkorában beléivódhatott, a már említett életrajz szerint ugyanis "nemzeti és keresztény indíttatású" családi nevelésben részesült, ráadásul tízéves korában bekerült a Hunyadi Mátyás Honvéd Középiskola és Nevelőintézetbe, majd pedig a Zrínyi Miklós Honvéd Gyalogsági Hadapródiskolában folytatta tanulmányait.
A csúfos MDF-vereséget hozó 1994-es választásokon parlamenti mandátumot szerzett, négy évvel később azonban már nem jutott be az Országgyűlésbe. Mindez nem jelentette azonban azt, hogy távozott volna a nagypolitika közeléből, 1998 és 2002 között ugyanis Orbán Viktor miniszterelnök egyik tanácsadója volt. A jobboldaltól eltérően gondolkodók körében valószínűleg ekkor sem tartozott a kedvencek közé, a 2002-es kormányváltás után azonban egyre látványosabban szólalt fel a megosztottság ellen. A Fideszt többször is bírálta, miközben a kormányoldal felé több gesztust is tett.
2004 júniusában például Medgyessy Péter akkori miniszterelnök egy olyan rendezvényen kért bocsánatot az 1956-ban történtekért, amelyet a Boross Péter által elnökölt szabadságharcos közalapítvány szervezett. Boross elítélően nyilatkozott a 2003 októberi söjtöri történésekről is, amikor a Deák Ferenc születése alkalmából rendezett kormányzati ünnepséget tojásdobálással zavarták meg jobboldali csoportok. Egy időben vállalta, hogy vasárnaponként Horn Gyulával felváltva értékelje a közéleti eseményeket, amivel akarva-akaratlanul is a volt szocialista kormányfő párja lett sokak szemében.
Az utóbbi négy évben nyilvános megszólalásait ugyanakkor nem is annyira a baloldal megértése, hanem inkább a politikai stílussal való elégedetlenség jellemezte. Egy alkalommal például úgy fogalmazott, hogy a magyar politikai közpéletből hiányzik a "gáláns elegancia". Az Orbán család és az úgynevezett Apró-Gyurcsány-érdekkör vagyonosodásának vizsgálatára létrehozott parlamenti vizsgálóbizottságával kapcsolatban pedig azt mondta, a magyar politika történetében példátlan állapot, hogy egymással viaskodó bizottságokat akarnak létrehozni. Hozzátette, hogy "elemi politikai intelligenciával" előre lehet látni, hogy egyik bizottság sem fog eredményre jutni, és ebben maradéktalanul igaza is lett.
Párttisztséget nem visel, de azért kiveszi részét az MDF-nél adódó munkából. A kampány során ő mutatta be a párt több jelöltjét, Komárom-Esztergom megyében például az erős embereknek szervezett különböző versenyek többszörös győztesét, Fekete Lászlót. Ezen a rendezvényen egyébként még azt a politikusoktól ritka őszinteséget is megengedte magának, hogy a jelölteket méltatta, amiért nem valamely nagy párt színeiben indulnak, "ahol van esély", utalva ezzel arra, hogy a felmérések szerint az MDF-nek nem lesz könnyű dolga, ha be akar jutni a parlamentbe.