Amikor az MI dönt a jövődről: káosz egy rangos mexikói egyetem felvételijén

Egy rangos egyetem több ezer felvételi vizsgát semmisített meg, miután a mesterséges intelligenciára épülő rendszere lehetséges csalásokat jelzett — most pedig tízezrek nem tudják, elkezdhetik-e egyáltalán az egyetemi évet. A mexikói csúcsegyetem, a Mexikói Nemzeti Autonóm Egyetem (UNAM) súlyos botránnyal néz szembe, miután a történetében először használt MI-alapú rendszert az online zajló felvételi vizsga felügyeletére — jelentette a CNN.

Hogy értsük, mit jelent ez emberi léptékben, érdemes egyetlen jelöltnél megállni. Daniel Fernando García Velázquez négyszer tette le a felvételi vizsgát, mire elérte a bejutáshoz szükséges pontszámot. Az első három alkalommal mintegy 400 kilométert kellett utaznia Veracruz államból Mexikóvárosba, mert a vizsga kizárólag személyes formában zajlott. A negyedik nekifutásra, júniusban, a vizsgát először szervezték online. És bár García 120-ból 94 pontot ért el — ami elég lett volna a kommunikáció és újságírás szakra —, a jelentkezését felfüggesztették. Az egyetem ugyanis a több mint 150 ezer dolgozatból mintegy 3000-et megsemmisített, miután szokatlanul sok maximális pontszámot észlelt, ami felvetette a gyanút, hogy egyes jelöltek MI-eszközöket használtak, vagy előre hozzáfértek a feladatokhoz. A nyomozás miatt nemcsak a csalással gyanúsítottak járnak rosszul, hanem azok is, akik tisztességesen teljesítettek — García és a hozzá hasonlók most mind az egyetem végső döntésére várnak.

A botrányt tovább szította, hogy több jelölt szerint az MI-alapú felügyeleti rendszer hibázott, és túlzottan, elegendő emberi ellenőrzés nélkül alkalmazták. Ez a felvételi mesterséges intelligencia kétélűségének tökéletes példája: a rendszer rögzítette és elemezte minden jelölt viselkedését, az adatokat pedig elvileg emberi felügyelők is ellenőrizték — de a jelek szerint nem eléggé. Az eredmények közzététele után a szakmai bizottság megállapította, hogy a maximális pontszámú dolgozatok száma megháromszorozódott az előző évekhez képest. Ugyanakkor megnőtt a nulla, egy vagy két helyes választ tartalmazó dolgozatok száma is — amit szintén gyanúsnak ítéltek. Vagyis az anomália mindkét irányban jelentkezett: gyanúsan sok tökéletes és gyanúsan sok katasztrofális eredmény. És hogy a csalás valós volt, azt más is alátámasztja: a közösségi médiában számos videó jelent meg, amelyben felhasználók megmutatták, hogyan lehet átverni a felügyeleti rendszereket. Egy jelölt a CNN-nek elmondta, hogy mintegy 150 dollárért felajánlottak neki egy programot, amely automatikusan megoldja a vizsgát.

Hogy mekkora a tét, azt a számok mutatják. Az UNAM Latin-Amerika egyik legrangosabb egyeteme, a mexikói közoktatás jelképe. Évente több mint 100 ezer jelölt verseng egy helyért, és 80–90 százalékukat elutasítják. Idén több mint 150 ezren pályáztak mindössze 21.962 helyre. A vizsgáztató platformot üzemeltető cég azt állítja, hogy a rendszere a tervek szerint működött, és hogy a vizsga biztonsága nemcsak a technológián, hanem az egyetem által hozott tudományos intézkedéseken is múlik. Vagyis a cég a felelősséget részben visszahárítja az egyetemre. Az UNAM végül bejelentette: a nyomozás megerősítette a csalások meglétét — köztük mobiltelefonok használatát, a jelölteknek segítő személyeket, sőt személyazonosság-lopást is. Ennek nyomán az egyetem úgy döntött, hogy új vizsgát szervez, ezúttal személyes formában, mintegy 58 ezer olyan jelölt számára, aki idén vagy az elmúlt öt évben elérte a bejutási pontszámot. Az új vizsga időpontját és helyszíneit egyelőre nem jelentették be. Az ügy végül egészen a mexikói elnökig, Claudia Sheinbaumig jutott — aki maga is az UNAM végzőse —, és aki a helyzet tisztázása érdekében a legfőbb ügyész bevonását javasolta.

ÉS a végeredmény?

Jelenleg több tízezer fiatal jövője lóg a levegőben — köztük olyanoké, mint García, akik tisztességesen, akár négyszeri nekifutásra, 400 kilométeres utazások árán érték el a céljukat, most mégis egy algoritmus gyanúja miatt kényszerülnek újra vizsgázni. Amikor egy MI-rendszer hibázik vagy túl szélesen csap le, akkor az ártatlanok is a hálójába kerülnek — és egy felvételinél ez egész életpályákat téríthet el.

Az sem mellékes tanulság, hogy ez az eset mesterséges intelligencia oktatásba való bevezetésének egyik első nagy, látványos kudarca. A történet iróniája, hogy egyszerre igaz mindkét dolog — a csalás valóban zajlott (mobilok, személyazonosság-lopás, 150 dolláros csalóprogramok), ÉS az MI-felügyelet is túltolta egy kicsit, miután elegendő emberi ellenőrzés nélkül hagyták dolgozni. Vagyis nem az a tanulság, hogy „az MI rossz" vagy „a diákok csalnak", hanem hogy egy nagy tétű döntést — ki juthat be egy egyetemre — nem szabad pusztán egy algoritmusra bízni, emberi felülvizsgálat és átláthatóság nélkül. Ahogy egyre több intézmény vezet be MI-alapú felügyeletet, ellenőrzést, szűrést, úgy nő a kockázata, hogy a gép tévedése emberi sorsokat tör ketté. A mexikói eset egy figyelmeztetés: a technológia csak akkor szolgálja az igazságosságot, ha ember is felel a döntéseiért — nem helyette, hanem mellette.

Forrás: Mediafax