Amikor az MI dönt a jövődről: káosz egy rangos mexikói egyetem felvételijén
Egy rangos egyetem több ezer felvételi vizsgát semmisített meg, miután a mesterséges intelligenciára épülő rendszere lehetséges csalásokat jelzett — most pedig tízezrek nem tudják, elkezdhetik-e egyáltalán az egyetemi évet. A mexikói csúcsegyetem, a Mexikói Nemzeti Autonóm Egyetem (UNAM) súlyos botránnyal néz szembe, miután a történetében először használt MI-alapú rendszert az online zajló felvételi vizsga felügyeletére — jelentette a CNN.
Hogy értsük, mit jelent ez emberi léptékben, érdemes egyetlen jelöltnél megállni. Daniel Fernando García Velázquez négyszer tette le a felvételi vizsgát, mire elérte a bejutáshoz szükséges pontszámot. Az első három alkalommal mintegy 400 kilométert kellett utaznia Veracruz államból Mexikóvárosba, mert a vizsga kizárólag személyes formában zajlott. A negyedik nekifutásra, júniusban, a vizsgát először szervezték online. És bár García 120-ból 94 pontot ért el — ami elég lett volna a kommunikáció és újságírás szakra —, a jelentkezését felfüggesztették. Az egyetem ugyanis a több mint 150 ezer dolgozatból mintegy 3000-et megsemmisített, miután szokatlanul sok maximális pontszámot észlelt, ami felvetette a gyanút, hogy egyes jelöltek MI-eszközöket használtak, vagy előre hozzáfértek a feladatokhoz. A nyomozás miatt nemcsak a csalással gyanúsítottak járnak rosszul, hanem azok is, akik tisztességesen teljesítettek — García és a hozzá hasonlók most mind az egyetem végső döntésére várnak.
A botrányt tovább szította, hogy több jelölt szerint az MI-alapú felügyeleti rendszer hibázott, és túlzottan, elegendő emberi ellenőrzés nélkül alkalmazták. Ez a felvételi mesterséges intelligencia kétélűségének tökéletes példája: a rendszer rögzítette és elemezte minden jelölt viselkedését, az adatokat pedig elvileg emberi felügyelők is ellenőrizték — de a jelek szerint nem eléggé. Az eredmények közzététele után a szakmai bizottság megállapította, hogy a maximális pontszámú dolgozatok száma megháromszorozódott az előző évekhez képest. Ugyanakkor megnőtt a nulla, egy vagy két helyes választ tartalmazó dolgozatok száma is — amit szintén gyanúsnak ítéltek. Vagyis az anomália mindkét irányban jelentkezett: gyanúsan sok tökéletes és gyanúsan sok katasztrofális eredmény. És hogy a csalás valós volt, azt más is alátámasztja: a közösségi médiában számos videó jelent meg, amelyben felhasználók megmutatták, hogyan lehet átverni a felügyeleti rendszereket. Egy jelölt a CNN-nek elmondta, hogy mintegy 150 dollárért felajánlottak neki egy programot, amely automatikusan megoldja a vizsgát.
Hogy mekkora a tét, azt a számok mutatják. Az UNAM Latin-Amerika egyik legrangosabb egyeteme, a mexikói közoktatás jelképe. Évente több mint 100 ezer jelölt verseng egy helyért, és 80–90 százalékukat elutasítják. Idén több mint 150 ezren pályáztak mindössze 21.962 helyre. A vizsgáztató platformot üzemeltető cég azt állítja, hogy a rendszere a tervek szerint működött, és hogy a vizsga biztonsága nemcsak a technológián, hanem az egyetem által hozott tudományos intézkedéseken is múlik. Vagyis a cég a felelősséget részben visszahárítja az egyetemre. Az UNAM végül bejelentette: a nyomozás megerősítette a csalások meglétét — köztük mobiltelefonok használatát, a jelölteknek segítő személyeket, sőt személyazonosság-lopást is. Ennek nyomán az egyetem úgy döntött, hogy új vizsgát szervez, ezúttal személyes formában, mintegy 58 ezer olyan jelölt számára, aki idén vagy az elmúlt öt évben elérte a bejutási pontszámot. Az új vizsga időpontját és helyszíneit egyelőre nem jelentették be. Az ügy végül egészen a mexikói elnökig, Claudia Sheinbaumig jutott — aki maga is az UNAM végzőse —, és aki a helyzet tisztázása érdekében a legfőbb ügyész bevonását javasolta.
ÉS a végeredmény?
Jelenleg több tízezer fiatal jövője lóg a levegőben — köztük olyanoké, mint García, akik tisztességesen, akár négyszeri nekifutásra, 400 kilométeres utazások árán érték el a céljukat, most mégis egy algoritmus gyanúja miatt kényszerülnek újra vizsgázni. Amikor egy MI-rendszer hibázik vagy túl szélesen csap le, akkor az ártatlanok is a hálójába kerülnek — és egy felvételinél ez egész életpályákat téríthet el.
Az sem mellékes tanulság, hogy ez az eset mesterséges intelligencia oktatásba való bevezetésének egyik első nagy, látványos kudarca. A történet iróniája, hogy egyszerre igaz mindkét dolog — a csalás valóban zajlott (mobilok, személyazonosság-lopás, 150 dolláros csalóprogramok), ÉS az MI-felügyelet is túltolta egy kicsit, miután elegendő emberi ellenőrzés nélkül hagyták dolgozni. Vagyis nem az a tanulság, hogy „az MI rossz" vagy „a diákok csalnak", hanem hogy egy nagy tétű döntést — ki juthat be egy egyetemre — nem szabad pusztán egy algoritmusra bízni, emberi felülvizsgálat és átláthatóság nélkül. Ahogy egyre több intézmény vezet be MI-alapú felügyeletet, ellenőrzést, szűrést, úgy nő a kockázata, hogy a gép tévedése emberi sorsokat tör ketté. A mexikói eset egy figyelmeztetés: a technológia csak akkor szolgálja az igazságosságot, ha ember is felel a döntéseiért — nem helyette, hanem mellette.
Forrás: Mediafax
Tetszett a cikk?
Támogassa a munkánkat egy kis adománnyal
Biztonságos fizetés Stripe-on keresztül • Min. 2 EUR
Gesta-ajánló:

Trump januárra békét szeretne, felesége már karácsonyi tűzszünetről ábrándozik, az ukránok közben meghalnak
A Trump-kormány január elejéig szeretné lezárni az orosz–ukrán békemegállapodást, még mielőtt az új, demokrata vezetésű Kongresszus munkához látna – értesült a Financial Times. Melania Trump eközben karácsony előtti tűzszünet lehetőségéről beszél, miközben Moszkva továbbra is elutasítja azokat a garanciákat, amelyek egy újabb orosz támadással szemben valódi védelmet adnának Ukrajnának. Az európai…

Vádat emeltek Raed Arafat ellen. Csempészetben való bűnrészességgel vádolja a katonai ügyészség
Raed Arafatot egy olyan mentőhelikopter romániai behozatala miatt, amelyet egy tragédiában elvesztett gép helyett biztosítottak. A DSU vezetője szerint nyílt, hivatalos eljárásból próbálnak utólag bűncselekményt csinálni, az ügyészek viszont azt állítják, hogy elmaradt a vámkezelés és több mint négymillió lej importáfa megfizetése; arról, kinek van igaza, most a bíróságnak kell döntenie.

Bolojanék is előállnak egy közigazgatási reformmal, plusz csökkentenék a parlament létszámát
Ilie Bolojan december elejére ígéri a PNL közigazgatási reformmal kapcsolatos álláspontját, miközben a parlament létszámának csökkentéséről a liberálisok és az USR már csaknem elkészültek a közös javaslattal. A volt miniszterelnök szerint a kormány eddigi bejelentései mögött nem látszik kellően kidolgozott átszervezés, mert attól, hogy két szegény községet egy név alá terelnek, még nem lesz több…

Trump máris vétóval fenyegeti a demokratákat
Donald Trump nem sok időt vesztegetett annak magyarázatára, mit tanult a félidős választások eredményéből, inkább közölte, milyen eszközzel fogja kordában tartani a januárban hivatalba lépő demokrata törvényhozási többséget. Az elnöki vétót rendkívüli hatalomként méltatta, amely szerinte tárgyalásra kényszerítheti ellenfeleit, Ukrajna számára pedig az lesz a döntő kérdés, hogy az amerikai…

Trump közelében jól fizet a tanácsadás: Jason Miller milliói között román közpénz is felbukkan
Egy gyerektartási perből derült ki, milyen látványosan megugrott Donald Trump régi tanácsadójának üzleti bevétele, miközben a washingtoni kapcsolataiért fizető ügyfelek között Románia is megjelent. Jason Miller cégei egy év alatt mintegy tizenötmillió dollárt szedtek be, a Cotroceni-palota azonban továbbra sem teszi megismerhetővé, pontosan mit is kap a román állam a havi több százezer dolláros…