A kutatók által megjelentetett cikkből kiderül, hogy egy olyan kontextustól független módszert fejlesztettek ki, amely által egy algoritmus képes elemezni egy embertől származó szöveget vagy hangfelvételt, és ennek alapján hozzárendelni egy értéket, amely jelzi az egyén depressziószintjét.
A kulcsszó itt az MI vagy AI (mesterséges intelligencia) kontextustól független aspektusa.
A terapeuta ugyanis jellemzően kipróbált kérdéseket és közvetlen megfigyelést használ olyan mentális egészségi állapotok diagnózisának felállításához, amilyen például a depresszió.
A MIT kutatócsoportja szerint az ő MI-jük képes valami hasonlót végrehajtani anélkül, hogy szüksége lenne előre kidolgozott kérdésekre vagy közvetlen megfigyelésre. Nincs szüksége kontextusra, csak adatokra.
A MIT sajtóközleményéből a következő derül ki:
A MIT kutatói egy olyan neurális hálózat modelljét ismertetik, amit rá lehet engedni nyers szövegből és hangfelvételekből álló adatokra azért, hogy felfedezze a depresszióra utaló szövegmintázatokat. Képes pontosan megjósolni, hogy az egyén depressziós-e, anélkül, hogy szüksége lenne bármilyen más kérdésekből és válaszokból gyűjtött információra.
És ebben rejlik az igazán ijesztő része a fejlesztésnek. Mert nem mindegy, hogy „detektálja” vagy „megjósolja”, azaz előre jelzi a depressziót. Ha csak detektálna, azaz megállapítaná valakiről, hogy depressziós, azzal nem lenne gond, hiszen csak segítené az orvosok munkáját.
A kutatók viszont maguk is érzik, hogy nem mindegy, hogy algoritmusuk detektálja vagy előre jelzi a depressziót. A nyilatkozatokból úgy tűnik, inkább az utóbbiról van szó.
Ez viszont igen aggályos lehet a későbbi használatot tekintve. Az emberi kommunikáció passzív automatizált megfigyelése a rémálmainkban megjelenő ijesztő jövőt vetíti előre.
Mi lesz például, ha majd a vállalatok személyes interjúk helyett ilyen MI-t használnak a jelentkezők alkalmasságának elbírálásához? A jelöltnek még esélye se lenne a személyes álláspontjának és értékeinek kifejtésére és megmutatására.
Ezenkívül azonban számos ijesztő felhasználási lehetőség elképzelhető az ilyen és hasonló algoritmusoknak és a fejlesztés még gyerekcipőben jár. Most kellene szigorú szabályokat lefektetni az MI felhasználásához, mielőtt még túl késő lesz.