Panaszkodtál valaha a Metának? Mostantól egy robot fogja figyelmen kívül hagyni

Aki valaha megpróbált panaszt benyújtani a Facebookon vagy az Instagramon – legyen szó tévesen törölt bejegyzésről, zaklatónak jelölt fiókról, vagy éppen egy olyan tartalom eltávolítási kérelméről, amelyet valaki más posztolt rólunk –, az tudja, hogy az élmény eddig sem volt pontosan az ügyfélbarát digitális szolgáltatás mintapéldája. A válasz általában késett, az indoklás hiányzott, a fellebbezési lehetőség pedig olyan rejtett menüpontokban bujkált, amelyeket csak az talál meg, aki már eleve tudja, hol keresse. Nos, a Financial Times csütörtökön megjelent cikke szerint mindez hamarosan egyszerűsödik – abban az értelemben, ahogyan egy dolog akkor egyszerűsödik, amikor az ember az egyik végét teljesen levágja.

A Meta nagy ütemben váltja fel az emberi tartalommoderátorokat mesterséges intelligencia alapú rendszerekkel a Facebook, az Instagram és a WhatsApp platformjain. A Financial Times négy, a témában jártas forrásra hivatkozva arról számolt be, hogy a mesterséges intelligencia 2026-ban már az emberi felülvizsgálati kérelmek nagyjából felét kezeli, és a vállalat az év végéig egyes tartalomtípusoknál 90% fölé kívánja emelni ezt az arányt – ami azt jelenti, hogy ha valaki panaszt nyújt be, tíz esetből kilencben nem ember, hanem algoritmus dönt a sorsáról.

A váltás pénzügyi logikája kristálytiszta: a Meta márciusban bejelentette, hogy fokozatosan kivezeti harmadik feles moderációs partnereire – köztük az Accenture-re és a Cognizantra – való támaszkodását, amelyek összességében becslések szerint 15 000 és 20 000 közötti szerződéses moderátort foglalkoztatnak. A Financial Times szerint az átállás évi több milliárd dolláros megtakarítást hozhat a vállalatnak – miközben Mark Zuckerberg vezérigazgató ugyanezt a pénzt az AI-infrastruktúra fejlesztésére szeretné fordítani.

A vállalat természetesen nem úgy tálalta a bejelentést, hogy "kirúgjuk a moderátorokat, mert drágák", hanem úgy, hogy a cél "egy gyorsan fejlődő technológia hatékonyabb alkalmazása". Belső tesztek szerint a mesterséges intelligencia rendszerek nagyjából kétszer annyi felnőtt szexuális tartalmú felkérést szűrtek ki, mint az emberi moderátorok, miközben a hibaráta több mint 60 százalékkal csökkent – legalábbis a Meta saját mérései szerint. A vállalat azt is közölte, hogy eszközei naponta körülbelül 5000 hitelesítő adatokat ellopni próbáló átverési kísérletet akadályoznak meg.

Mindez hangzik meggyőzően, azzal az apró fenntartással, hogy ezek a számok a Metától származnak, és a Meta éppen most érdekelt abban, hogy az automatizálás jól hangzó képet mutasson – miközben az emberi ellenőrzés, amely ezeket az állításokat megkérdőjelezhetné, fokozatosan megszűnik.

A Meta fenntartja, hogy az emberi ellenőrök továbbra is részt vesznek a "legnagyobb kockázatú és legkritikusabb döntésekben, például a fióktiltások elleni fellebbezésekben vagy a bűnüldöző szerveknek tett bejelentésekben" – ami elvben megnyugtató, a gyakorlatban azonban azt jelenti, hogy az automatizált rendszer dönti el, mi számít elég kritikusnak ahhoz, hogy ember is ránézzen. Ez körülbelül olyan, mint amikor valaki azt mondja, hogy az orvos csak a súlyos esetekben ír fel receptet – de az, hogy mi számít súlyos esetnek, azt a recepciós szoftver dönti el.

A kérdés pedig nem elvont: a Meta platformjait naponta több mint 3,2 milliárd felhasználó veszi igénybe, és egy ekkora léptékű rendszerben még egy kis százaléknyi téves döntés is sok millió embert érint – törölt bejegyzések, felfüggesztett fiókok, figyelmen kívül hagyott zaklatási bejelentések formájában. A vállalat 2024 végén meghozott azon döntése, hogy megszünteti a harmadik feles tényellenőrzést, már akkor komoly kritikát váltott ki civil szervezetekből, amelyek a tartalombiztonsági garanciák leépülését kifogásolták – a mostani lépés ezt a folyamatot viszi tovább az automatizálás irányába.

Érdemes megjegyezni, hogy mindez nem légüres térben zajlik: a Meta áprilisban bejelentette, hogy körülbelül 8.000 munkahelyet – dolgozóinak 10 százalékát – szüntet meg a nagy összegű mesterséges intelligencia-kiadások ellensúlyozása érdekében, az elbocsátások pedig májusban léptek életbe. Tehát a vállalat egyszerre bocsát el embereket és vezet be AI-rendszereket, miközben azt állítja, hogy a változás célja nem a költségcsökkentés.

Ezek közül az állítások közül valamelyik nem igaz. Azt, hogy melyik, egy algoritmus fogja eldönteni – fellebbezési lehetőség nélkül.

Felhasznált forrás: Tech Buzz, Financial Times