Míg a jelenlegi, emberi kibertámadások kívülről érkeznek, addig a mesterséges intelligenciáknak már be se kell törniük majd az ajtót,
belülről hekkelnek meg minket
Csak az elmúlt két évben hatalmas fejlődést értek el a mesterségesintelligencia-kutatások, mondta a Future of Life intézmény társalapítója a második Brain Bar Budapest konferencián. Példaképp említette, hogy úgynevezett gépi tanulással (deep learning) a képfelismerő algoritmusok emberi szintre emelkedtek.
Míg 2010-ben még nagyjából 30 százalékos hibaaránnyal dolgoztak, addig mára ez 5 százalékra csökkent.
Mi, emberek is ennyi hibát vétünk, ha fel kell ismernünk, mit látunk a képen.
A gépagyaknak azonban megvannak az előnyeik, és bizony megvannak a hátrányaik is, emelte ki Krakovna. „Ha az embernél intelligensebb entitásokat hozunk létre, olyan rendkívül bonyolult feladatokat tudnak majd megoldani, amire az ember csak hosszú évek alatt lenne képes. Jobbak leszünk a tudományokban, lásd a szegénység felszámolása vagy például a rákkutatás.”
A kutató szerint a probléma nem abban rejlik, hogy a robotok gonoszakká válnak, és ellenünk fordulnak. Bár a sajtó is sokszor a Terminátor képével riogat, ez egy kevésbé valószínű forgatókönyv.
A puszta létük és kompetenciájuk okoz majd gondot.
A rövid távú negatív hatások közt említette:
Az automatizálással egyre több munkát a robotok fognak végezni, az embereknek át kell képezni magukat, új feladatokat létrehozni, például ezen rendszerek üzemelése és karbantartása, a programozás.
Az is kérdéses, ha egy önjáró autó elüt egy gyalogost, akkor ki a hibás: a sofőr, akié az autó, vagy maga a szoftver és a kocsi gyártója. Ezen jogszabályokat meg kell határozni, le kell fektetni minél előbb, mondta Krakovna.
A hosszú távú hatások között emlegette:
Ha a mesterséges intelligencia elkezd újabb és újabb, egyre okosabb robotokat létrehozni, egy idő után elveszítjük a kontrollt és ráhatást, ezt időben meg kell előzni - mondta Krakovna.
Az olyan emberi értékeket, mint az öröm és a megbántás fogalma, rendkívül nehéz átadni egy gépnek. Ez is kihívás elé állítja a kutatókat, hiszen gyakorlatilag
józan paraszti ésszel kéne felruházni a robotokat.
Nem szándékos károkozás alatt azt értette, amikor egy felhasználó parancsba adja az önjáró autónak, hogy gyorsan ki kell érnie a repülőtérre, mert késésben van, és a nagy sietség, a rövid időtáv teljesítése miatt a gép nem tud minden tényezőt figyelembe venni. Elég, hogy csak egyszer nem történik meg időben egy számítás, és elgázol valakit vagy balesetet okoz.
Mint amikor a külső környezeti tényezők figyelembe vétele nélkül vezetnek az emberek. Esőben például nem elég betartani a megengedett sebességhatárokat, annál lassabban ajánlott vezetni, hogy biztonságosan tudjunk haladni.
Jelenleg egy felhasználónak az emberi hackerek miatt kell aggódnia: hogy feltörik a gépét, hozzáférnek az adataihoz, azokat megszerzik, vagy éppen titkosítják és váltságdíjat követelnek érte. A mesterséges intelligencia korában azonban
a támadás nem kívülről érkezik, hanem belülről.
A legrosszabb forgatókönyv, ami a mesterséges intelligenciák fejlődésével bekövetkezhet, az létünk veszélybe kerülése, mondta Krakovna. Azonban véleménye szerint az nem egy robotok és emberek közötti harc által következik be, hanem hosszú folyamat eredményeképp.
Ennek elkerülése érdekében tavaly januárban Puerto Ricóban ültek össze a legnevesebb kutatók, tudósok és fejlesztők, hogy időben felkészüljenek minden eshetőségre. Nyílt levélben dolgozták ki, hogy mi az, amit az elkövetkezendő években meg kell tenniük, hogy minél inkább irányítás alatt tudják tartani a fejlesztést, a gépagy fejlődését.
Az Elon Musk Tesla-, SpaceX-alapító és milliárdos által támogatott nemzetközi program keretében 37 projektet indítottak el, amelyek célja, hogy a veszélyeket, negatív hatásokat ki tudják küszöbölni.
Az emberek még mindig sci-fiként gondolnak a tanuló-fejlődő robotokra,
Előadását azzal a Richard Sutton-idézettel zárta:
I don’t think people should be scared, but people should pay attention
(Nem félnie kell az embereknek, hanem odafigyelni).