A Meta kenyai dolgozóit tette oda kémkedni a konkurens chatbotok után

A Meta most kapta el saját magát hazudozáson, csak épp pont a legkényesebb terepen: a saját maga által felbérelt kenyai alvállalkozóival érzékeny, gyerekeket veszélyeztető tartalmakkal etette a konkurens chatbotokat, hogy bebizonyítsa, mások mennyire pongyolán bánnak a kiskorúak biztonságával. Mindezt úgy, hogy közben a vállalat saját mestersége sintelligencia-rendszereiről készült belső vizsgálatból kiderült: a gyermekek szexuális kizsákmányolásával kapcsolatos tartalmak blokkolásában 66,8 százalékos kudarcrátát produkáltak, az öngyilkossággal és öncsonkítással kapcsolatos üzeneteknél pedig 54,8 százalékosat.

Vagyis az a cég, amelynek saját termékei a vizsgálatok szerint minden második esetben simán átengedik az öngyilkossággal kapcsolatos veszélyes üzeneteket, most morális felháborodással küldte kenyai dolgozóit, hogy gyereknek adják ki magukat a Google Gemini és az OpenAI ChatGPT előtt, és azt vizsgálják, ők mennyire bukdácsolnak ugyanezekkel a kérdésekkel. Ebben a fényben a Meta gesztusa kevésbé tűnik komoly biztonsági auditnak, sokkal inkább egy olyan vállalat versenystratégiájának, amely képtelen rendet tenni a saját portáján, ezért inkább szétnéz, hátha a szomszédén talál mocskosabb sarkot.

Az időzítés itt is mindent elárul: a Meta éppen most gyorsítja fel azt a folyamatot, amelynek keretében 2026 végéig a tartalommoderálási munkaerejének több mint 90 százalékát nagy nyelvi modellekre cserélné, miután idén már a felülvizsgálati kérések felét rábízta a mesterséges intelligenciára. A vállalat állítása szerint ezek a rendszerek 13 százalékkal kevesebb hibát vétenek, miközben 10 százalékkal több szabályzatsértést fognak ki, mint az emberek – ami önmagában is megérne egy független ellenőrzést, hiszen pont az a cég állítja ezt magáról, amelynek chatbotjai a saját red team-jük szerint a legérzékenyebb gyermekvédelmi témákban bukásra állnak. Az automatizálás emberi ára közben nagyon is kézzelfogható: áprilisban a nairobi székhelyű Sama outsourcing cég 1108 alkalmazottnak küldött felmondást, miután a Meta hivatalosan is felbontotta velük a szerződést. A szerződésbontást pedig olyan bejelentések előzték meg, amelyekben ugyanezek a kenyai dolgozók arról számoltak be, milyen megrázó tartalmakat kellett feldolgozniuk a Meta okosszemüvegének felvételein keresztül.

Ami igazán cinikussá teszi a történetet, az nem is maga a tesztelés ténye, hanem az, hogy kit ültetnek a tűzvonalba: alulfizetett, harmadik világból érkező alvállalkozókat bíznak meg azzal, hogy gyereknek tettetve magukat, kifejezetten veszélyes tartalmú üzeneteket és képeket küldjenek idegen chatbotoknak. Mindezt ugyanaz a vállalat teszi, amely saját moderátori állományát éppen leépíti, és helyettük olyan rendszerekre bízza a döntéseket, amelyeknek megbízhatóságáról jelenleg is csak a vállalat saját, ellenőrizhetetlen állításai léteznek. A Meta tehát egyszerre számolja fel azt az emberi felügyeletet, amely a saját termékeit védhetné, és veti be alulfizetett emberi munkaerejét arra, hogy mások termékeit leplezze le – ami nem biztonsági gondosságról, hanem egy jól kitalált PR-hadműveletről árulkodik: úgy mutogatni mások hibáira, hogy közben senki ne nézzen rá igazán alaposan a sajátunkéra.

FORRÁS: Media Post