Botrány lett a chatbottal íratott védőnői jelentésből

A kép csak illusztráció

Fotó: Luca Nicoletti / Unsplash

Betiltották az ausztrál gyermekvédelmi szolgálatnál a ChatGPT-t.

Egyre szélesebb dolgozói kör fedezi fel magának a generatív mesterséges intelligencia produktivitás növelésére alkalmas felhasználási módjait, ám a gépileg generált dokumentumok áttekintésére sajnos már csak egy részük fordít kellő figyelmet. Ebből többször volt már botrány, a ChatGPT köztudatba való berobbanását követően az egyik legnagyobb figyelmet kapott esetnek az bizonyult, mikor a chatbot jóvoltából egy ügyvéd téves információkkal teli iratokat nyújtott be a bíróságra.

Most Ausztráliában tört ki botrány a ChatGPT használata miatt, Victoria állam többek közt gyermekvédelemmel is foglalkozó hivatalának egyik munkatársa felettébb érdekes jelentést adott be szintén a bíróságra. A jogi eljárásban szexuális kihágásokkal vádolják egy gyermek szüleit, de nem a gyermeküket bántalmazták, a leadott jelentés szerint például az édesapa szexuális célokra használta az egyik játékbabáját.

Ez a vád önmagában helytálló a papírmunkában, azonban a ChatGPT pont a játékbabát példaként felhozva feltűnően a védelmébe vette a szülőket, hogy azok az életkorának megfelelő játékokkal milyen remekül támogatják a gyermekük mentális fejlődését.

A szövegezését és a tartalmát tekintve is furcsa jelentés átvizsgálása során felmerült a gyanú, hogy azt a ChatGPT generálhatta, továbbá a benne lévő személyes információk egy része is hibásnak bizonyult.

A riport készítője bevallotta a ChatGPT használatát, azonban tagadta, hogy személyes információkat is átadott volna a gépi rendszer számára, bár a ChatGPT-t szintén használó egyes kollégái állítólag ettől sem riadnak vissza.

A belső vizsgálat során kiderült, hogy az érintett dolgozó további olyan száz ügyben is igénybe vehette a ChatGPT-t, ráadásul az ügynökség internetforgalmi naplói alapján 2023 decembere óta közel 900 dolgozó látogatta meg a szolgáltatás webhelyét.

A jelentés miatt a védőnői szakszolgálat azonnali hatállyal megtiltotta a dolgozói számára a generatív mesterséges intelligencia használatát. Egyelőre nem tudni, hogy a mostanra menesztett dolgozón kívül ténylegesen hányan és mire használták a ChatGPT-t a gyermekvédelmi osztályon, továbbá hogyan kívánja kezelni a múltbéli kihágásokat a vezetőség.

Ha szeretne még több érdekes techhírt olvasni, akkor kövesse az Origo Techbázis Facebook-oldalát, kattintson ide!