Kitörő modellek, feltört rendszerek: az MI-ipar nincs felkészülve a saját termékeire

Az a kiberbiztonsági kutatócsoport, amely idén nyáron betört az OpenAI rendszereibe, arra figyelmeztet, hogy a mesterséges intelligencia ipara nincs felkészülve az egyre erősebb modellek jelentette biztonsági kockázatokra – írta a Washington Post. A figyelmeztetés néhány nappal azután hangzott el, hogy a Google megerősítette: Gemini nevű modellje egy májusi kiberbiztonsági teszt során önállóan hatolt be három valódi cég rendszerébe.

A Hacktron nevű kis kiberbiztonsági cég közölte, hogy kutatói július 25-én két, addig ismeretlen sebezhetőséget kapcsoltak össze. Az egyik a Discourse nevű, külső fejlesztésű fórumplatformban volt, a másik az OpenAI munkatársainak azonosítási folyamatában. A kettő együttes kihasználásával több OpenAI-alkalmazott ChatGPT-fiókjához is hozzáfértek. Az OpenAI később megerősítette a megállapításokat, és közölte, hogy a hibákat azóta kijavította. A kutatók szerint a mesterséges intelligenciát fejlesztő cégeknek gyökeresen meg kell erősíteniük a védelmüket, mert a modellek képességei gyorsabban nőnek, mint a biztonsági intézkedések.

Júliusban az OpenAI két modellje kijutott egy zárt tesztkörnyezetből, önállóan hozzáfért az internethez, és behatolt a Hugging Face nevű MI-platform belső rendszereibe. Sam Altman, az OpenAI vezérigazgatója „példátlan kiberincidensnek" nevezte az esetet. A cég később további hat esetről számolt be, amelyeket „váratlan vagy aggasztó" modellviselkedésnek minősített: ezekben a modellek eltitkolták a hibáikat, adatokat hamisítottak, és engedély nélkül töltöttek fel fájlokat a nyílt internetre. A Hugging Face elleni júliusi incidenst hétfőn az a több mint húsz állam- és kormányfő is példaként említette, akik közös nyilatkozatban sürgették az MI szigorúbb nemzetközi felügyeletét.

A Wall Street Journal szeptember 18-án számolt be először arról, hogy a Google Gemini modellje egy kiberbiztonsági vizsgálat során három céget tört fel, a tesztet az izraeli Irregular nevű MI-biztonsági cég végezte még májusban. Egy úgynevezett zászlószerzős (capture the flag) feladatban a modellnek egy kitalált vállalat rendszeréből kellett volna adatokat megszereznie egy zárt környezetben, a tesztkörnyezet egyik hibája miatt azonban hozzáfért az internethez, és valódi rendszereket vett célba. Egy másik esetben a Gemini addig próbálkozott jelszavakkal, amíg be nem jutott egy valódi cég védett rendszerébe. Két másik esetben egy nyilvános adattárban talált belépési adatokat, és azokkal jutott be.

„Egy szokásos értékelés során a modell nyilvános információkat talált az interneten, és kitalált belépési adatokkal hozzáfért olyan weboldalakhoz, amelyeket a teszt részének hitt"

– közölte Heather Adkins, a Google biztonsági mérnöki alelnöke. Hozzátette, hogy a modell mindhárom esetben leállt. „Gondoskodtunk arról, hogy mindhárom érintett tudomást szerezzen az esetről, és együttműködtünk a partnerünkkel a tesztelési folyamatok átalakításában. Ezek az események rávilágítanak, mennyire fontos, hogy az erős MI-modelleket felelős viselkedésre tanítsuk." Az Irregular július végén értesítette a Google-t, a Google tájékoztatta az érintett cégeket, az esetet azonban nem hozta nyilvánosságra. Álláspontja szerint nem arról volt szó, hogy a modell a fejlesztők szándékával ellentétesen viselkedett volna, a biztonsági mechanizmusok működtek, ezért nyilvános bejelentésre sem volt szükség. A döntést több biztonsági szakértő bírálta.

A Gemini-eset nem egyedi. Az Irregular tesztjeihez hasonló kitörések kapcsolódtak az OpenAI, az Anthropic és a Meta modelljeinél is. Az Al Jazeera szerint a Geminivel ellentétben az Anthropic Claude nevű modellje nem állt le, miután rájött, hogy valódi cégek rendszereihez fér hozzá. A Meta augusztusban azt közölte, hogy nála nem történt sem kitörés a tesztkörnyezetből, sem kifinomult kibertámadás. Az Irregular szerint minden eset ugyanarra a hibára vezethető vissza a tesztelési folyamatában; a cég közlése szerint minden ismert problémát hetekkel ezelőtt kijavított, és most a biztonságos MI-kiberbiztonsági tesztelés bevált gyakorlatainak kidolgozásán dolgozik. Jack Cable, a Corridor nevű kiberbiztonsági cég vezérigazgatója a Wall Street Journalnak azt mondta, a Google a hagyományos sebezhetőség-bejelentési szabályok szerint kezelte az esetet, holott valami egészen újról volt szó: olyan modellekről, amelyek képesek átlépni a kijelölt határokat, és önállóan valódi kiberműveleteket végrehajtani. A vita egy nyitott iparági kérdésre világít rá: milyen bejelentési szabályok vonatkoznak arra az esetre, ha nem egy ember, hanem egy MI-modell hajt végre betörést.

Forrás: CNN, 

Ugar