Diszkriminálta a nőket az Amazon mesterséges intelligenciája

A munkaerő-felvétel bizonyos folyamatait szerette volna automatizálni az Amazon egy általuk kifejlesztett mesterséges intelligenciával. Sajnos hamarosan kiderült, hogy bizonyos pozíciókra szinte teljesen alkalmatlannak tartotta a nőket, így állítólag sosem használták, és most már nem is foglalkoznak vele.

Egy olyan nagyvállalat sikeréhez, mint az Amazon, elengedhetetlen a minél magasabb fokú automatizáció. Legyen szó a raktáraik működéséről, az árak meghatározásáról, vagy éppen a kiszállításról.

A mesterséges intelligencia segítségével azonban a cég automatizálni akarta a jelentkezők által beküldött önéletrajzok értékelését is, jelentős emberi munkát megspórolva ezzel.

A rendszer fejlesztésébe még 2014-ben kezdett bele a vállalat, és az utóbbi években számos területen kísérletezett vele, és egy ideig szuper ötletnek gondolták. Többé nem kell HR-részlegnek végigmenni több száz jelentkezőn, hanem a rendszer a beérekezett önéletrajzok alapján kiválasztotta volna a legjobb ötöt, akiket adott esetben később meg lehetett volna versenyeztetni a pozícióért.

Csak kiderült, hogy komoly problémák akadtak azzal, ahogy a mesterséges intelligencia értékelte a jelentkezőket, főleg a nőket.

Forrás: Pixabay

Nem tetszett a gépnek az a szó, hogy „nő”

A dolog a szoftverfejlesztői, illetve egyéb, technológiai jellegű állásoknál bukott a felszínre, ahol a mesterséges intelligencia rendre kiszórta a női jelentkezőket és a férfiakat részesítette előnyben. Ezért egyébként nem magát a programot kell hibáztatni, azt ugyanis az utóbbi 10 évben az Amazonhoz ilyen pozíciókra felvett önéletrajzok alapján tanították be. A felvettek többsége pedig férfi volt, hiszen akkor is és most is a technolóigai szakmákban messze felülreprezentáltak a férfiak, így persze a mesterséges intelligencia is azt gondolta, hogy inkább férfiakat kellene választania.

A mesterséges intelligencia éppen ezért lepontozta többek között azokat az önéletrajzokat, melyekben valamilyen módon szerepelt a "nő" vagy a "női" szó. Olyan dolgokra kell gondolni, mint hogy valaki kizárólag nőket fogadó egyetemen végzett, vagy a női sakkcsapat kapitánya volt.

Az Amazon mérnökei később aztán belenyúltak a programba, hogy az ehhez hasonló kifejezéseken ne akadjon fent, azonban azt már nem tudták garantálni, hogy a gépi tanulásos rendszer az egyre több megszerzett tudás birtokában később ne alakítana ki magának más módszereket arra, hogy valami alapján diszkriminálja a jelentkezőket.

Belsős forrásokra hivatkozva a Reuters azt írja, hogy az Amazon vezetősége elvesztette a hitét a projektben, így az ezzel foglalkozó csapatot feloszlatták. A névtelenséget kérő források azt is elmondták, hogy a cég HR-részlege megnézte a mesterséges intelligencia által kiadott optimálisnak tűnő jelölteket a felvételi eljárás során, de sosem támaszkodtak kizárólag erre. Ezzel szemben az Amazon hivatalosan azt kommunikálta, hogy sosem használták a gépi eszközt a jelentkezők kiválasztására.

Forrás: Fortune

Nem az Amazon az egyetlen

Habár az Amazon ügye most felszínre került, számos más cég indított el hasonló kezdeményezéseket, akik számára ez jó tanulság lehet a jövőre nézve. A nagy technológiai vállalatok mellett többek között például a Hilton Worldwide Holdings és a Goldman Sachs is tervezi, hogy a következő években legalább részben automatizálná a munkaerő-felvételi folyamatot.

Az Egyesült Államokban egy tavaly készült felmérés szerint a HR-szakemberek 55%-a mondta azt, hogy a mesterséges intelligencia öt éven belül a mindennapi munkarutinjuk részévé válik.

Mindez nem feltétlenül ördögtől való dolog, hiszen a gépi tanulásos rendszerek használatával egyrészt sokkal több jelentkező vizsgálható meg, vagy kereshető meg az interneten (például LinkedIn-en) közzé tett önéletrajz alapján, így egy vállalat sokkal mélyebb merítésből válogathat. Másrészt pedig a mesterséges intelligenciával legalább részben kiszűrhető a felvételiztető szakember szubjektív véleménye a jelentkezőről.

A szakértők szerint azonban még akár hosszú évek munkájába is tellhet, mire létre tudunk hozni olyan algoritmusokat, melyek fair és átlátható módon, mindenféle diszkrimináció nélkül tudják majd értékelni a jelentkezőket.

Ha szeretne még több érdekes techhírt olvasni, akkor kövesse az Origo Techbázis Facebook-oldalát, kattintson ide!