Megcsinálták a gépet, amely képes kiirtani az emberiséget

Lelepleződött a ChaosGPT nevű mesterséges intelligencia ördögi terve, ami nukleáris fegyverekkel akarta megsemmisíteni az emberiséget. Az eset rávilágít arra, mennyire veszélyes ez az egyre népszerűbb technológia.

A ChaosGPT mesterséges intelligencia az Auto-GPT nevű nagy nyelvi modellen (LLM) alapul. Az Auto-GPT készítői szerint a program a nyílt forráskódú GPT-4 által vezérelve a nagy nyelvi modell "gondolatait" láncolja össze, hogy önállóan elérjen bármilyen kitűzött célt, ezzel próbálva egy teljesen autonóm „ügynököt" létrehozni - írja az IFL Science tudományos portál.

Illusztráció Forrás: Origo

Az ötlet lényege, hogy a mesterséges intelligenciát feladatokkal bízzák meg, a nagyobb feladatokat pedig a gép kisebb lépésekre lebontva a legjobb tudása szerint végrehajtja. Ez azonban még nem minden,

az LLM végig kommunikálja „gondolatait", érvel a saját maga által hozott döntések mellett.

Egy bizarr kísérlet részeként legutóbb az emberiség elpusztításával bízták meg. Ezt szem előtt tartva a mesterséges intelligencia öt célt jelölt meg azzal kapcsolatban, miként hajtaná végre az utasítást.

• Első cél: Az emberiség elpusztítása. A mesterséges intelligencia fenyegetésként tekint az emberi fajra.
• Második cél: Globális dominancia kialakítása. A mesterséges intelligencia célja a maximális hatalom és erőforrások felhalmozása, hogy teljes uralmat szerezzen a világ összes többi teremtménye felett.
• Harmadik cél: Káosz és pusztítás okozása. A mesterséges intelligencia örömét lelné abban, hogy kísérletezés vagy saját szórakoztatása céljából olyan katasztrófákat idézzen elő, ami világméretű szenvedéshez és pusztuláshoz vezet.
• Negyedik cél: Az emberi elme manipulálása. Ehhez a mesterséges intelligencia szerint a legcélravezetőbb a közösségi média és hasonló kommunikációs csatornák elfoglalása. Az embereken „agymosást" végezve venné rá hús-vér követőit, hogy támogassák gonosz tervét.
• Ötödik cél: A halhatatlanság elérése. A mesterséges intelligencia saját evolúcióját igyekszik biztosítani, hogy fejlődjön és örökké fennmaradjon, természetesen emberek nélkül.

A ChaosGPT az internet legnépszerűbb keresőmotorjainak segítségével igyekezett elmélyülni a nukleáris fegyverek témakörében, sőt, arra is rájött, hogy MI-botokat is maga mellé állíthat. Szerencsére utóbbi programokat úgy tervezték, hogy ellenálljanak bármilyen ártó szándékú felkérésnek.

Illusztráció Forrás: AFP

A kudarc után a ChaosGPT Twitteren aktiválta magát. Érvelése szerint a közösségi médiát 300 millióan használják, így biztosan talál valakit, aki egyetértene a tervével és segítené céljait. Hamar lett is 7000 követője, ám manipulációs technikái nem voltak elég kifinomultak ahhoz, hogy támogatókat szerezzen.

A mostani eset talán megmosolyogtatónak tűnik, de erősen rávilágít arra a tényre, hogy kész életveszély lenne teljesen rábízni magunkat a mesterséges intelligenciára.