A mesterséges intelligencia az ember ellen. Megtörténhet?

Series T-800 Robot in Terminator Genisys from Paramount Pictures and Skydance Productions

Lassan minden eszközünkben van valamilyen mesterséges intelligenciára épülő rendszer, egyre fejlettebbek az autók önvezető képességei, miközben szinte minden évre jut egy-egy gigantikus hackertámadás, a háborút pedig már a kibertérben vívják. Mennyire kell félnünk ezektől? A Wired szakértőket kérdezett különböző témákban, összeállításunk ez alapján készült.

Veszélyt jelentenek az önvezető autók?

Azokon a helyeken, ahol önvezető autókat tesztelnek, mindig és kötelezően ott ül egy tapasztalt mérnök, aki azonnal beavatkozik, ha a jármű bármi veszélyeset próbálna csinálni. Magyarországon viszonylag ritkán történik ilyen tesztelés, de ha a jövőben ezek száma meggyarapodna, akkor sem kell félni, mert nálunk sem közlekedhet vezető nélküli autó, mindig ott kell ülnie valakinek a bal egyben. Elon Musk évekkel ezelőtti, szokás szerint túlzottan optimista jóslataival szemben még mindig nagyon messze vagyunk attól, hogy egy autó teljesen biztosan, mindenre felkészülve tudja vezetni önmagát, a jogalkotás pedig általában még ennél is lassabban reagál a technológiai változásokra,

tehát a közeli jövőben biztosan nem számíthatunk arra, hogy vezető nélküli autók fognak rohangálni a közutakon.

Bizonyos tekintetben jelenleg a legnagyobb veszélyt azok a felelőtlen sofőrök jelentik, akik túlbecsülik egy-egy autó önvezetési képességét, és akár viccből, akár más indíttatásból menet közben elhagyják a vezetőülést - az Egyesült Államokban is több, ebből fakadó baleset történt az elmúlt hónapokban. Ehhez persze köze van annak is, hogy a Tesla elég felelőtlenül "Autopilot"-nak hívja a vezetéstámogató rendszereit, azt sugallva ezzel, hogy robotpilótaként tud működni a járgány, holott (ahogy fentebb írtuk) ez még hosszú évekig nem lesz igaz.

Forrás: Tesla

Fel van készülve a világ egy kiberháborúra?

Erről az Egyesült Államok egykori terrorellenes szakértője, Richard Clakre azt írta a könyvében, hogy valójában elég kevés ország teljesítene igazán jól egy globális digitális háborúban. Sőt, saját becslései szerint pont az Egyesült Államok lenne az egyik legrosszabb helyzetben, pont azért, mert elképszetően függ a digitális infrastrukturától.

Ennek ellentéte Észak-Korea, ahol a lakosság nagy része még csak az internet fogalmával sincs tisztában, és az ország létfontosságú elemei nem függnek a digitalizációtól.

Jelenleg a fejlett országok pontosan tudják, hogy bármikor bárkit támadás érhet az online térből, így mindenki fel van készülve arra, hogy ha ez a támadás meg is történik és valamiért nem sikerül kivédeni, a károkat minél hamarabb helyre lehessen állítani. Szakértők szerint szélsőséges, de jó példa, hogy amikor 2015-ben hackerek megtámadták Ukrajna elektromos hálózatát, és elosztóállomás lekapcsolt, akkor technikusok készenlétben álltak, hogy azokat manuálisan visszakapcsolják, amire néhány órán belül sor is került. Persze Ukrajnában ez azért lehetett így, mert a rendkívül fejletlen elektromos hálózat miatt egyébként is mindig készen állnak a kézi beavatkozásra, míg a fejlettebb országokban azért ezek már többnyire automatizált rendszerek.

Feltörhetik a hackerek a rendszert, és kilőhetnek ránk atomfegyvereket?

Ez szinte teljesen lehetetlen, véli Bruce Bennett, a RAND kutatója. Eleve azért is lenne nagyon problémás, mert az atomfegyverek indítóállomásai nincsenek rákötve az internetre, teljesen különálló, sokszor elképesztően régi számítógépes rendszerek vezérlik őket.

Ezen kívül az elindításukhoz nem lenne elég a számítógépeket feltörni, mindenképpen kellének kódok, kulcskártyák, melyek pedig az atomhatalmaknál jellemzően több embernél vannak szétszórva. Ilyen indítókódok vannak többek között abban a fekete táskában is (angol nevén nuclear football), amit az Egyesült Államok minden elnöke átvesz az elődjétől, és amit az őt követő titkosszolgálat emberei mindenhova visznek magukkal, utazzon bárhova is az elnök a világban.

Forrás: United States Department of Energy

Ellenünk fordulhat a mesterséges intelligencia?

Paul Christiano, az OpenAI szervezet kutatója kifejtette, hogy a mesterséges intelligencia tudományos kutatásokban vesz részt, hamarosan építkezéseken is használni fogják, és képes lesz arra is, hogy más mesterséges intelligenciákat állítson elő. Azonban szerinte nem kell tartanunk attól, hogy hamarosan a Terminátor című filmhez hasonlóan gonosz robotok fogják elpusztítani az emberiséget.

De egyébként az emberiség készül is: a Google-féle DeepMind és az Oxfordi Egyetem kutatói például közösen dolgoznak azon, hogy megértsék, milyen mesterséges intelligenciás rendszer válhat később hajlamossá arra, hogy megakadályozza, hogy az emberek megpróbálják lekapcsolni vészhelyzet esetén.

A szakértők szerint nagyobb probléma lehet, hogy ha a mesterséges intelligencia már annyira fejletté válik, hogy nem egészen értjük meg, mi alapján cselekszik, akkor a viselkedése esetleg eltérhet attól, amire eredetileg szánták. Minden bizonnyal ki kell tehát dolgozni olyan alapelveket (Asimov már megtette helyettünk), amiket egy mesterséges intelligenciának mindig szem előtt kell tartania.

Illetéktelenek hozzáférhetnek az e-mailjeimhez, közzé tehetik azokat?

Könnyen lehet. Mármint az, hogy illetéktelenek hozzáférhetnek valakinek a levelezéséhez, ugyanis szakértők szerint még mindig nagyon sokan dőlnek be világszerte az olyan, ismeretlenektől érkező e-maileknek, amiben valamilyen segítséget ajánlanak fel, vagy valaki másnak adják ki magukat (például a bank, vagy más szolgáltató egyik emberének). Ezekben az e-mailekben elkérhetik a jelszavunkat, amivel utána hozzá tudnak férni például a levelezésünkhöz, de még rosszabb, hogy ha egyéb személyes adatokat, például a bankkártyaadatokat próbálják meg kiszedni belőlünk.

Fontos, hogy a hivatalos intézmények sosem kérnek e-mailben jelszót, sem más személyes adatot.

Az is fontos megjegyezni, hogy ezek jellemzően nagy merítéssel indított adathalász támadások, és nem kifejezetten az a céljuk, hogy beletekintsenek a nagymamánkkal folytatott személyes beszélgetésbe. Ennek megfelelően ha ki is kerülnének ezek a megszerzett e-mailek az internetre, az nem személyes dolog, hanem valószínűleg több ezer, vagy millió hasonlóan átejtett társunkkal együtt jártunk így. Személyesen, közvetlenül jellemzően politikusoknál, vagy más fontos közéleti, gazdasági szerplőknél próbálkoznak a támadók.

Forrás: Amazon

Lehallgatnak a mikrofonnal felszerelt eszközeimen keresztül?

Nos, erre a legegyszerűbb a válasz: igen. Habár az olyan nagyvállalatok, mint a Google vagy a Facebook rendszeresen tagadja, hogy ilyet tenne, mint ahogy a különböző okostelefonos alkalmazások készítői is, valamiért azonban a telepítés után a program mégis hozzáférést kér az eszköz mikrofonjához.

Arról pedig ne is beszéljünk, hogy egyre több az otthonokban a különböző helyiségekben, akár a hálószobában is elhelyezett okoshangszóró, okostévé, vagy egyéb okoskészülék, ami bármikor képes hallgatózni a mikrofonjaival.

Itt persze nem arra kell gondolni, hogy valaki ott ül a vonal másik végén, és szó szerint kihallgatja és lejegyzeteli ahogy a vacsorára meghívott barátainkkal beszélgetünk, hanem egy mesterséges intelligenciára épülő rendszer elemzi az elhangzott szavakat, és azokat hirdetési célokra használja fel - amikor legközelebb felmegyünk az internetre, mágikusan olyan hirdetések jelennek meg, amik kapcsolódnak a témához.

Ahogy az e-mailek esetében, a közvetlen, célzott lehallgatás továbbra is leginkább a politikai szereplőket fenyegeti.

Ha szeretne még több érdekes techhírt olvasni, akkor kövesse az Origo Techbázis Facebook-oldalát, kattintson ide!