Lefotózta a beteg gyermekét, ráküldte a rendőrséget a Google

SON FATHER surprise PORTRAIT dad one parent ADULT CHILD BOY MAN 2-3 years 30-34 years two people toddler mid-adult man mid-adult little boy preschool age togetherness curiosity lifestyle DISCOVERY wireless technology digital tablet indoors day home interi

A cég gyermekbántalmazásos anyagnak vélte a gyermekorvosnak készített képeket.

Az elmúlt években látványosan előtérbe került az internetes gyermekpornográfia elleni fellépés, a fotók és videók tárolására használható internetes szolgáltatások már nem csak az ismert illegális tartalmak felbukkanása esetén értesítik az illetékes szervezetet, de gépi felismeréssel proaktívan detektálni próbálják az új eseteket is. Ez nemes elképzelés, ám a kontextust nem ismerő algoritmusok súlyos helyzetbe hozhatják a szülőket, és nem csak a családi fotóalbumokba szánt, ártalmatlan fotók miatt.

A korábban nem látott gyermekbántalmazásos tartalmak felismerésének szándéka üdvözlendő, ám a gépi rendszerek fals pozitív találatai drámaian megkeseríthetik a szülők életét Forrás: Altopress/Sandro Di Carlo Darsa

A The New York Times beszámolója szerint tavaly rendkívül kellemetlen kalandban volt része egy amerikai apukának, miután a gyermekorvos asszisztensének kérésére februárban fotókat küldött a kisgyermekének duzzadt ágyékáról. Az asszisztens a koronavírusos helyzet miatt kérte azokat, hiszen ha az orvos meg tudja állapítani róluk a probléma okát, akkor elég videócsevegésben konzultálnia a szülőkkel, ami mindenki számára kényelmes és biztonságos. A képek alapján az orvos bakteriális fertőzést diagnosztizált, amelyet gond nélkül megszüntetett a felírt antibiotikum.

A pokoljárás ezután kezdődött, két nappal a fotók elkészítését követően a Google „ártalmas tartalmakra" hivatkozva zárolta az apuka felhasználói fiókját, ezek állítólag „súlyosan megszegték a Google felhasználási feltételeit, továbbá potenciálisan illegálisak". Az androidos mobilt használó férfi elveszítette az e-mail-fiókját, a névjegyzékét, a Google Fotókba automatikusan biztonsági mentett fotóit (beleértve a riasztást kiváltottakat), sőt: a Google Fi mobilszolgáltató használata miatt még a telefonszámától is elbúcsúzhatott.

Mindeközben a törvényi kötelezettségnek eleget téve a Google jelentette az esetet a National Center for Missing and Exploited Children (NCMEC) szervezetnek, amely cserébe továbbította a rendőrségnek az ügyet. Az illetékes San Franciscó-i rendőrkapitányság tíz hónappal később, tavaly decemberben indított vizsgálatot az ügyben, a nyomozó pedig a helyzetet megismerve gyorsan lezárta az ügyet, hiszen nem történt bűncselekmény.

Tavaly a Google 621 583 esetben riasztotta az NCMEC-et gyermekbántalmazásos anyagok miatt, míg az NCMEC 4260 esetben értesítette potenciálisan új áldozatokról a rendőrségeket.

Ezen esetek egyike volt a pórul járt apukáé.

Ha szeretne még több érdekes techhírt olvasni, akkor kövesse az Origo Techbázis Facebook-oldalát, kattintson ide!