A Claude már láthatatlanul megjelöli, amit ír – az internet máris azon dolgozik, hogyan lehet eltüntetni

Van abban valami meglehetősen ironikus, hogy miközben az egész mesterséges intelligencia-iparág évek óta arról beszél, milyen fontos lesz megkülönböztetni az ember által írt szöveget a gép által előállított tartalomtól, az első komolyabb kísérletnél azonnal megszületett a másik oldal is: az eszközök, amelyek megpróbálják leszedni a gép láthatatlan ujjlenyomatát. Az Anthropic, a Claude fejlesztője ugyanis augusztus 2-től olyan új modelleket vezetett be, amelyek a generált szövegbe láthatatlan, géppel felismerhető vízjelet építenek. A vállalat augusztus 14-én részletesebben is elmagyarázta, hogyan működik a rendszer, és azt is világossá tette, hogy a megoldás elsősorban az Európai Unió mesterséges intelligenciáról szóló szabályozásához kapcsolódik.

A dolog azonban sokkal érdekesebb annál, mint hogy „mostantól megjelölik az AI által írt szöveget”, mert ez a vízjel nem egy kis cetli a dokumentum végén, amelyre rá van írva, hogy Claude készítette, kérem, ne tessék letagadni. A jelölés magába a szövegbe épül bele, méghozzá úgy, hogy a modell bizonyos szavak kiválasztásának valószínűségét nagyon finoman módosítja. Az ember ebből semmit nem lát, egy megfelelő detektor viszont elegendő szöveg alapján képes lehet felismerni azt a statisztikai mintázatot, amely arra utal, hogy Claude is részt vett a szöveg létrehozásában. Az Anthropic egyik fontos magyarázata szerint a vízjel nem azt bizonyítja, hogy a teljes szöveget Claude írta, hanem azt, hogy a Claude részt vett annak létrehozásában vagy feldolgozásában. És ez egyáltalán nem mindegy. Ha valaki saját maga megír egy tízoldalas tanulmányt, majd Claude-dal kijavíttatja benne a nyelvtani hibákat, a rendszer elvileg ugyanúgy hagyhat maga után ilyen jelet, mint amikor valaki azt mondja neki: „Írj nekem egy tízoldalas tanulmányt erről a témáról”. A vízjel tehát nem szerzői bizonyítvány, inkább egyfajta digitális lábnyom: azt mondja, hogy Claude valamilyen módon hozzányúlt ehhez a szöveghez.

Képzeljük el például, hogy egy újságíró megír egy cikket, majd elküldi Claude-nak, hogy ellenőrizze a nyelvtani hibákat és segítsen néhány nehézkes mondatot gördülékenyebbé tenni. Ha a végleges szövegben ott marad a vízjel, egy későbbi ellenőrző rendszer azt mondhatja: igen, ezt a szöveget a Claude megjelölte - csakhogy ebből nem következik, hogy az újságíró nem írta meg a cikket. Ugyanez még érzékenyebb lehet az egyetemi világban, a jogi munkában, a pályázatoknál, a kiadóknál vagy éppen olyan vállalatoknál, ahol szerződés vagy belső szabályzat tiltja az AI használatát. Egy detektor ugyanis könnyen létrehozhat egy olyan félreértést, amelyben az „AI-val dolgozták fel” lassan és észrevétlenül átcsúszik az „AI írta” kategóriába. Az Anthropic éppen ezért hangsúlyozza, hogy a vízjel nem állítja megdönthetetlen bizonyossággal, hogy Claude írta az adott szöveget, csupán azt jelzi, hogy mekkora valószínűséggel vett részt benne a modell. Ráadásul a rendszer bizonyos helyzetekben kevésbé hatékony: rövid szövegeknél, pontos kódnál vagy olyan szövegrészeknél, ahol nagyon szűk a megfelelő szavak köre, nehezebb statisztikai mintát kialakítani.

A háttérben Brüsszel áll, egészen pontosan az EU AI Act 50. cikke és az ahhoz kapcsolódó átláthatósági szabályok. Az uniós szabályozás előírja, hogy a mesterséges intelligenciával előállított vagy manipulált tartalmakat – ahol ez technikailag megvalósítható – géppel olvasható módon jelölni kell. Anthropic tehát nem egyszerűen felébredt egy augusztusi reggelen azzal az ötlettel, hogy „mi lenne, ha titokban megjelölnénk mindenkit, aki Claude-dal írta meg a házi feladatát?”. A vállalat az EU-s szabályozásnak való megfeleléssel indokolja a rendszert, és az új modellek esetében már augusztus 2-tól alkalmazza, van azonban egy apró, de annál fontosabb részlet: nem csak Európában. Az Anthropic globálisan vezette be a jelölést, vagyis a Claude vízjele nem áll meg a moldáv határon, és nem kell attól tartanunk, hogy valahol a bolgár-törökk határon egy brüsszeli hivatalnok kézzel rányom egy pecsétet a szövegre. A vállalat az egész rendszerre kiterjesztette a megoldást, beleértve a Claude felületét, az API-t, a Claude Code-ot és azokat a szolgáltatásokat is, amelyekben a Claude más infrastruktúrán, például AWS-en, Google Cloudon vagy Microsoft Foundryn keresztül fut. Az EU tehát megalkotott egy szabályt, a globális technológiai vállalat pedig egyszerűbbnek találta, ha nem épít külön európai és külön világpiaci rendszert, hanem mindenkit ugyanabba a szabályozási kalapba tesz. Ja, és a korábbi modellek esetében december 2-ig tartó átmeneti időszak áll rendelkezésre a jelölés bevezetésére.

A vízjel azonban nem egy láthatatlan tintával írt „Claude voltam” felirat

A technikai megoldás azért különösen érdekes, mert nem egyszerű metaadatról van szó. Egy kép esetében például könnyen elképzelhető, hogy egy fájlhoz hozzáadnak egy adatot, amely megmondja, honnan származik. Az ilyen metaadatokat azonban megfelelő programmal sokszor el lehet távolítani. Az Anthropic a képek és támogatott fájlok esetében a C2PA nevű nyílt szabványt használja a digitális eredetiség és a feldolgozási előzmények rögzítésére.

A szövegnél viszont más a helyzet: ott maga a nyelvi output hordozza a statisztikai mintát. Ez első pillantásra egészen elegáns mérnöki megoldásnak tűnik, csakhogy van vele egy apró probléma, amelyet az internet természetesen körülbelül három perc alatt fedezett fel: ha valamit el lehet rejteni a szövegben, akkor előbb-utóbb lesz valaki, aki megpróbálja kiszedni belőle, és már vannak is ilyen próbálkozások. Az Anthropic bejelentését követő napokban már több nyílt forráskódú projekt is megjelent, amelyek a Claude által hagyott nyomok eltávolítását célozzák. Az egyik ilyen GitHub-projekt, a Guillaume Meyer nevéhez kötött watermarks-remover rövid idő alatt több ezer csillagot kapott, miközben más, kifejezetten Claude-ra szabott tisztítóprojektek is megjelentek. Az egyszerűbb módszerek azonban nem feltétlenül a Claude valódi vízjelét támadják. Egyes programok metaadatokat, rejtett Unicode-karaktereket vagy más, könnyebben eltávolítható jeleket takarítanak ki, miközben a valódi statisztikai vízjel már magában a szöveggenerálásban jön létre. A nehezebb kérdés tehát az, hogy lehet-e úgy átírni a szöveget, hogy közben a vízjel eltűnjön, de a szöveg jelentése és minősége megmaradjon, erre természetesen már megint van egy kézenfekvő válasz: használjunk egy másik mesterséges intelligenciát.

És itt már tényleg kezdjük elérni azt a szintet, amikor az ember csak hátradől, és megpróbálja eldönteni, hogy technológiai fejlődést lát-e, vagy egy nagyon drága digitális bújócskát. Claude ír valamit, egy másik modell átírja, egy detektor megpróbálja kideríteni, hogy az első modell írta-e, egy újabb program megpróbálja eltüntetni a jelet, majd egy újabb detektor megpróbálja megállapítani, hogy az eltávolító program eltávolította-e a jelet.

És mi van az adatvédelemmel?

A vita egyik legérdekesebb része nem is a technológia, hanem az, hogy ki jogosult eldönteni, mit jelent a vízjel. Bill Gurley technológiai befektető például azt kifogásolta, hogy ha a felismeréshez szükséges kulcs kezdetben csak az Anthropicnál van, akkor a vállalat saját magát olyan helyzetbe hozza, amelyben lényegében ő dönti el, hogy egy szövegről kimutatható-e, hogy Claude érintette. Gurley ezt nagyon keményen úgy fogalmazta meg, hogy a cég egyszerre válhat „bírótól, esküdtszéktől és ügyésztől” függő szereplővé. Steven Sinofsky, a Microsoft korábbi vezetője más oldalról közelítette meg a problémát: szerinte felmerül a kérdés, hogy mi történik akkor, ha egy ember egy AI-rendszert csupán gondolkodási, szerkesztési vagy nyelvi segédeszközként használ, és közben mégis egy olyan digitális nyomot kap a munkája, amelyből később mások arra következtethetnek, hogy maga a tartalom „AI-generated”. Az Anthropic azt ígéri, hogy hamarosan ingyenes API-t biztosít majd a vízjel ellenőrzésére, így nem csak a vállalat maga tudná megmondani, hogy egy szöveg hordozza-e a Claude-jelölést. Ez fontos lépés lehet, mert egy ilyen rendszer csak akkor működhet hitelesen, ha az ellenőrzése nem egyetlen vállalat fekete dobozában történik.

A technikai kérdés pedig még kellemetlenebb: meddig marad meg a vízjel? Az Anthropic szerint a jelölés túlélheti a másolást, beillesztést és bizonyos könnyebb szerkesztéseket, ugyanakkor a komolyabb átírás, a fordítás vagy a teljes újrafogalmazás már képes lehet megtörni a mintázatot. A vállalat maga is elismeri, hogy a rendszer nem tökéletes, és a vízjel hiánya sem bizonyítja azt, hogy egy szöveg emberi eredetű. Ez pedig azt jelenti, hogy hamarosan lehet egy meglehetősen sajátos digitális világunk, ahol egy szöveg azért gyanús, mert van rajta vízjel, de az sem bizonyít semmit, ha nincs rajta vízjel.

A digitális macska-egér játék tehát elkezdődött. Csak most már mindkét állat mesterséges intelligencia.

Ugar