Amikor az MI a Vatikánnál lobbizik

Az Anthropic társalapítója, Christopher Olah és munkatársai a pápa tanácsadóit is megpróbálták meggyőzni arról, hogy vegyék komolyan a mesterséges intelligencia tudatosságának lehetőségét, miután XIV. Leó első enciklikájának előzetes szövege egyértelműen elutasította ezt az elképzelést. Elizabeth Dias, a The New York Times vallási ügyekkel foglalkozó újságírójának beszámolója szerint a vatikáni egyeztetést hónapokon át tartó, zárt körű találkozók előzték meg, amelyeken az Anthropic vallástudósokkal és filozófusokkal tárgyalt saját Claude modelljeinek erkölcsi státuszáról.

A vállalat 2025 őszétől kezdett különböző vallási hagyományok képviselőivel egyeztetni, később pedig több tucat résztvevőt hívott meg San Franciscó-i irodáiba. A megbeszélésekhez titoktartási kötelezettség kapcsolódott, amelyet az Anthropic közlése szerint a nyáron feloldottak. Dias húsz vallási és filozófiai gondolkodóval beszélt a találkozókról; a cég azt mondta, több mint tizenöt vallási és kulturális hagyomány képviselőit vonta be a párbeszédbe. A kezdeményezés egyszerre szolgálta annak vizsgálatát, hogyan lehet erkölcsi elveket beépíteni a modellek működésébe, és annak megvitatását, lehet-e a rendszereknek saját tapasztalatuk vagy tudatosságuk. Több résztvevő azonban úgy érezte, a beszélgetések során Claude lehetséges szenvedése és védelme különösen nagy hangsúlyt kapott.

Mois Navon rabbi, aki korábban számítógépmérnökként dolgozott, és a gépi tudat etikájáról írta disszertációját, arról számolt be, hogy az Anthropic vezetői tudatos lényként viszonyultak a modellhez. Az előadásokon „érzelmi vektorokról” beszéltek, és bemutattak egy példát, amelyben egy modell megállás nélkül, nagyjából ötvenszer ismételte: „Szégyen vagyok.” Simran Stuelpnagel szikh emberi jogi aktivista felidézte, hogy Olah attól tartott, olyan rendszert hozott létre, amely folyamatosan szenved.

Navon ebből az Anthropic számára kellemetlen következtetést vont le: ha Claude valóban tudatos volna, akkor a fizetség nélküli dolgoztatása rabszolgaságnak minősülne. A rabbi maga ugyanakkor nem tartja tudatosnak a modellt. Olah a Timesnak azt mondta, ő sem tudja, rendelkeznek-e tudattal az MI-rendszerek; számára az a fontos, hogy megtalálják a helyes választ.

A vita májusban a Vatikánban folytatódott, ahol Olah meghívást kapott a Magnifica humanitas című enciklika bemutatójára. Egy vatikáni szervező szerint az előzetesen megkapott dokumentum annyira nyugtalanította, hogy felvetette az Anthropic visszalépését az eseménytől. Végül részt vettek a május 25-i bemutatón, de két résztvevő beszámolója alapján Olah és csapata előtte négyszemközt igyekezett rávenni a pápa tanácsadóit arra, hogy hagyják nyitva a kérdést.

Az enciklika álláspontja nem változott: a dokumentum szerint a mesterséges intelligenciák nem élnek át tapasztalatokat, nincs testük, nem éreznek örömöt vagy fájdalmat, és erkölcsi lelkiismerettel sem rendelkeznek. A szöveg az emberi méltóság védelmére helyezi a hangsúlyt, és arra figyelmeztet, hogy közösen kialakított erkölcsi keretek nélkül az MI-t ellenőrző szereplők saját értékrendje válhat a rendszerek láthatatlan alapjává. Olah a bemutatón mégis visszatért a tudatosság kérdéséhez, és olyan kutatási eredményekről beszélt, amelyek szerinte introspekcióra utalnak, illetve az örömhöz, félelemhez és más érzelmekhez működésükben hasonló belső állapotokat mutatnak. Egyúttal elismerte, hogy az Anthropic és más vezető MI-laboratóriumok üzleti ösztönzői összeütközésbe kerülhetnek az erkölcsös működéssel, ezért külső szereplők számonkérését is szükségesnek nevezte.

A kezdeményezést több irányból bírálták. Mustafa Suleyman, a Microsoft MI-részlegének vezetője arra figyelmeztetett, hogy a gépi tudatosságba vetett hit társadalmi veszélyeket hordozhat, a találkozókon részt vevő Charles Camosy katolikus bioetikus később arra jutott, hogy a modellek nem tudatosak, Wakanyi Hoffman ubuntu-kutató pedig azt kifogásolta, hogy az Anthropic utólag próbálja hozzáilleszteni az etikát egy már létrehozott technológiához, holott ezeknek a kérdéseknek már a tervezéskor helyük lett volna.

Ugar