Hatalmas pusztítást is hozhat a mesterséges intelligencia

Cyborg, computer artwork.

A legtöbben talán a sci-fi filmekben felvázolt kockázatoktól tartanak leginkább a mesterséges intelligenciával kapcsolatban, az új technológia azonban sokkal összetettebb, és épp ezáltal ijesztőbbek is esetleges negatív következményei. Egy elemzés összegyűjtötte az öt legrémisztőbb jóslatot ezzel kapcsolatban.

A mesterséges intelligencia (MI, angol nyelvi környezetben: AI) iparága már ma is hatalmas, és a számítások szerint a jövőben egyre lendületesebben bővül majd. A szektor már idén is több mint ezer milliárd dollár gazdasági teljesítményt generálhat, 2022-re pedig a 4 ezer milliárd is összejöhet.

Ahogy pedig az MI technológia egyre érettebbé válik, az üzleti élet pedig egyre lendületesebben lovagolja meg a területet, egyesek elkezdtek amiatt aggódni, hogy sokan nem veszik figyelembe eléggé a potenciális kockázatait. A CNBC egy csokorba gyűjtötte az öt legijesztőbb jóslatot, amely a mesterséges intelligenciával kapcsolatban ma megfogalmazódik.

Tömeges munkanélküliség

Ha a filmekben látott gyilkos robotok elhozta apokalipszist nem számoljuk, akkor a világméretű tömeges munkanélküliség talán a legfélelmetesebb forgatókönyv, amely a technológiai fejlődés kapcsán ma felmerül.

Nyilvánvalóan az MI térhódítása mellett is szükség lesz olyan emberi munkaerőre, amely képes kezelni a technológiát,

ez azonban önmagában még messze nem lenne képes ellensúlyozni a munkahelyek tömeges megszűnését – teszi hozzá Alan Bundy, a University of Edinburgh professzora

A robotok elveszik a munkát, de új munkahelyeket is teremtenek Forrás: AFP/Chip Somodevilla

Az optimisták véleménye szerint viszont csak arról van, hogy teljesen más típusú munkahelyekre és feladatokra kell felkészülni, és valójában nincs ok a pánikra. A Gartner kutatócég szerint például

az MI 2,3 millió munkahelyet fog létrehozni, és csupán 1,8 milliót szüntet meg 2020-ig.

Ez persze nem jelenti azt, hogy mindenki képes lesz alkalmazkodni a változásokhoz, de a forgatókönyv szerint a nettó 500 ezres növekedés igencsak kedvezőnek tűnik.

A témában az egyik legtöbbet hivatkozott tanulmány egy 2013-ban, az Oxford University által publikált anyag, amely úgy számolt, hogy a legnagyobb veszélyben olyan munkavállalók vannak, mint az értékesítési ügynökök vagy a banki pénztárosok, illetve azok, akik olyan szolgáltatásokban utaznak, melyek gépekkel (vagy online megoldásokkal) helyettesíthetők lesznek. A jelenlegi megoldási lehetőségek azonban egyelőre korlátozottak.

Továbbra is az egyik legnépszerűbb koncepció erre a helyzetre a feltétel nélküli alapjövedelem, azonban ennek politikai realitása igencsak kérdéses. A másik (az előbbit nem kizáró) elméleti megoldás a hosszú távra berendezkedő átképzési rendszer, amelynek világméretű megvalósítása ma szintén nem tűnik túl reálisnak.

Háború

A mesterséges intelligencia katonai használata mára nem csupán a sci-fik világa. Ez pedig sokakban felveti a gyanút, hogy a technológiai fejlődés végső soron háborúba torkollhat.

A Tesla vezetője, Elon Musk fogalmazta meg tavaly, hogy a technológiai változások hozhatják el a harmadik világháborút.

Bár Musk elég gyakran mond igencsak kétséges és furcsa dolgokat is, az ezzel kapcsolatos aggályai találkoznak a szakértők aggodalmaival. Sokan ugyanis etikailag rendkívül problematikusnak tartják például az MI által vezérelt halálos automata fegyverek potenciális elterjedését, ami akár olyan gyakorlati kockázatokkal is járhat, mint egy mesterséges intelligencia által vezetett háború.

Barátból hamarosan ellenség is lehet? Forrás: AFP/Xinhua News Agency/Zhang Chenlin

Ha tehát van terület, amelyre a szakértők egyértelműen használják az „ijesztő" szót, akkor az a mesterséges intelligencia által automatikusan irányított fegyvereké. Miként Frank van Harmelen, az amszterdami Vrije Universiteit MI kutatója hangsúlyozta,

egy olyan számítógépes rendszer, amely automatikusan dönthet életről és halálról – például egy rakéta elindításával – „igazán ijesztő ötletnek" számít.

Ez pedig nem pusztán rémisztő fikció, ha azt nézzük, hogy a Rand Corporation nevű amerikai védelmi agytröszt idén adott közre egy tanulmányt, amelyben jelezte, a mesterséges intelligencia katonai használta akár atomháborúhoz is vezethet 2040-ig.

Robotorvosok

Az előbbinél bonyolultabb terület a mesterséges intelligencia elterjedése az orvostudományban, ez ugyanis sokak szerint hatalmas fejlődést jelenthet a gyógyításban. Mindazonáltal vannak olyanok, akik úgy véli, a világ túl gyorsan térhet át a számítógépes adatközpontú orvosi gyakorlatokra, ami így kockázatokat is hordoz magában.

A kutatók egyik legnagyobb félelme, hogy az emberiség túl sokat vár a mesterséges intelligenciától,

és azt feltételezi, hogy a segítségével gyorsan óriási áttöréseket érhetünk el az egészségügyben. Alan Bundy hangsúlyozta, eddig valóban elképesztő sikereket értünk el az MI alkalmazásával, azonban fontos látni, hogy mindez csak egy nagyon szűk területen történt.

Az orvostudományt is forradalmasíthatja az MI. De talán túl gyorsan? Forrás: Origo

A szakértő szerint azonban ha túl gyorsan túl nagy mértékben támaszkodunk a technológiára, akkor felmerülhetnek egyebek mellett a félrediagnosztizálás problémái. Például egy diagnosztikai alkalmazás, amely kiválóan meg tudja állapítani a szívbetegségeket, előfordulhat, hogy egy daganatos megbetegedést ritka szívproblémaként diagnosztizál, ami végzetes lehet a beteg számára – figyelmeztetett Bundy.

Ez pedig szintén nem puszta fikció, mivel éppen a múlt héten jelent meg egy kutatás az egészségügyre fókuszáló Stat magazinban, amely belső dokumentumok alapján közölte,

az IBM által fejlesztett Watson MI rendszer számos „nem biztonságos és inkorrekt" kezelési javaslattal állt elő daganatos betegségek esetén.

A cikk szerint a probléma az volt, hogy a szoftvert csak bizonyos, relatíve alacsony számú esetre és potenciális forgatókönyvre készítették föl, vagyis sok esetben nem tudta megfelelően feldolgozni az adott beteg konkrét adatait.

Szintén nem elhanyagolható etikai problémát vet föl a számítógépes adatgyűjtés. Ha ugyanis az egészségügy egyre nagyobb mértékben támaszkodik a mesterséges intelligenciára, akkor az ehhez szükséges, igencsak érzékeny, egészségügyi adatok kezelése is fontos megoldandó probléma.

A Nagy Testvér figyelme

A mesterséges intelligenciával foglalkozó kutatók negyedik legnagyobb félelme a tömeges megfigyelés, amely ráadásul Kínában egyre inkább valósággá is válik. Kína több területén is működnek ma már olyan, MI által támogatott arcfelismerő rendszerek, amelyek segítik a hatóságokat a bűnüldözésben.

Bár az ilyen, és ehhez hasonló megoldások hatékonyak lehetnek,

a kritikusok szerint az orwelli rémálmot is elhozhatják, lehetővé téve a rendkívül kifinomult tömeges megfigyeléseket.

Ez nem is meglepő, ha azt nézzük, hogy Kínában nagyjából 200 millió megfigyelő kamera működik, és az ázsiai óriás az egyetlen olyan ország, amelyben használnak egy „szociális kreditrendszert", amely követi az állampolgárok tevékenységét, és rangsorolja őket. Ennek segítségével pedig meghatározható, hogy szükséges-e kitiltani az egyént egyes területekről, beleértve a repülőjáratokat és az online ismerkedési szolgáltatásokat is.

Ijesztő hatalmat adhat a kormánynak Kínában a mesterséges intelligencia Forrás: Imaginechina/Wang gang

Ráadásul Kína 2030-ra már a mesterséges intelligencia globális vezetője is lehet, és a kormány milliárdokat költ arra, hogy folyamatosan fejlessze a technológiát.

Emellett Kínában található a világ legértékesebbnek vélt MI startupja is, a SenseTime.

A 4,5 milliárd dollár értékűre becsült cég élen jár az arcfelismerő rendszerek és az MI összekötésében, és az Alibaba ernyője alatt már most is több tartományban szolgáltat MI vezérelte arcfelismerő megoldásokat a hatóságoknak. Az optimisták itt arra hivatkozhatnak, hogy a SenseTime saját közlése szerint csak Kantonban a hatóságok 2000 gyanúsítottat tudtak sikerrel azonosítani a technológia segítségével, annak 2017-es bevezetése óta.

Diszkrimináció

Néhányan talán emlékeznek arra a két évvel ezelőtt kirobbant botrányra, amikor a Microsoft kifejlesztett egy Tay nevű MI programot, amely úgynevezett chatbotként azzal a funkcióval bírt, hogy azonnal képes volt szöveges üzenetekkel reagálni az internetes interakciókra. Tay kapott egy saját Twitter-fiókot, majd „ráeresztették" az internetre.

A botrány akkor tört ki, amikor kiderült, Taynek kevesebb mint egy napjába került, hogy a tweetjein keresztül szélsőségesen kirekesztő, rendkívül agresszív "identitást" vegyen fel.

A probléma abból fakadt, hogy a Tayt arra képezték ki, másolja le a felhasználók részéről érzékelt internetes interakciókat. Az internet sötétebb sarkaiban azonban olyan sok sértő tartalom található, amit figyelembe véve az elemzők szerint nem is volt igazán meglepő az eredmény.

Tay Twitter-fiókja Forrás: Origo

Noha a Microsoft végül lekapcsolta a fiókot,

az események elindítottak egy vitát arról, hogy mi van akkor, ha a mesterséges intelligencia elkezdhet előítéletessé válni.

Ez ugyanis egy olyan tényező, amelyre korábban szinte senki nem gondolt. A baj abból eredhet, hogy ha az algoritmusok teljesen neutrális alapokról kezdenek értéksemlegesen tanulni, akkor nem kizárt, hogy az emberiség legrosszabb oldalait is eltanulják.

Mindez pedig rávilágít arra a problémára, hogy reális és hasznos-e, ha úgy gondolunk a mesterséges intelligenciára, mint értéksemleges, tisztán racionálisan működő algoritmusokra, melyek teljesen elfogulatlanul nem vesznek figyelembe összetett társadalmi értékítéleteket. Mindennek konkrét technológiai jelentősége is van, mivel egyes vizsgálatok már felvetették a problémát, hogy

bizonyos arcfelismerő szoftverek hatékonyabban tesznek különbséget a fehér bőrszínű arcok között a feketékkel szemben.

Továbbá az sem mindegy, hogy például egy hangfelismerő rendszer milyen „sztereotípiák" alapján dolgozik többek között a nemek vagy az etnikai hovatartozás felismerése során.