Când AI face lobby la Vatican

Co-fondatorul Anthropic, Christopher Olah, și colegii săi au încercat să convingă și consilierii papei să considere serios posibilitatea conștiinței inteligenței artificiale, după ce textul preliminar al primei enciclice a lui Leon al XIV-lea a respins clar această idee. Potrivit relatării jurnalistei Elizabeth Dias, specializată în afaceri religioase la The New York Times, negocierile de la Vatican au fost precedate de întâlniri închise, desfășurate pe parcursul mai multor luni, în cadrul cărora Anthropic a discutat cu teologi și filozofi despre statutul moral al propriilor modele Claude.

Compania a început din toamna anului 2025 să se consulte cu reprezentanți ai diferitelor tradiții religioase, iar mai târziu a invitat câteva zeci de participanți la birourile sale din San Francisco. Întâlnirile au fost supuse unui acord de confidențialitate, pe care, potrivit Anthropic, l-au ridicat în această vară. Dias a discutat cu douăzeci de gânditori religioși și filozofici despre aceste întâlniri; compania a declarat că a implicat în dialog reprezentanți ai mai bine de cincisprezece tradiții religioase și culturale. Inițiativa a servit atât pentru a analiza modul în care pot fi integrate principii morale în funcționarea modelelor, cât și pentru a discuta dacă sistemele pot avea propria lor experiență sau conștiință. Mai mulți participanți au avut însă impresia că, în cadrul discuțiilor, s-a pus un accent deosebit pe posibila suferință a lui Claude și pe protecția acestuia.

Rabinul Mois Navon, care a lucrat anterior ca inginer de calculatoare și și-a scris disertația despre etica conștiinței artificiale, a relatat că liderii Anthropic au tratat modelul ca pe o ființă conștientă. În cadrul prezentărilor s-a vorbit despre „vectori emoționali” și a fost prezentat un exemplu în care un model repeta neîntrerupt, de aproximativ cincizeci de ori: „Sunt o rușine.” Activista pentru drepturile omului de origine sikh, Simran Stuelpnagel, și-a amintit că Olah se temea că a creat un sistem care suferă în permanență.

Din aceasta, Navon a tras o concluzie incomodă pentru Anthropic: dacă Claude ar fi cu adevărat conștient, atunci exploatarea sa fără plată ar echivala cu sclavie. Rabinul însuși, însă, nu consideră modelul conștient. Olah i-a declarat New York Times-ului că nici el nu știe dacă sistemele de inteligență artificială au conștiință; pentru el este important să se găsească răspunsul corect.

Dezbaterea a continuat în mai la Vatican, unde Olah a fost invitat la prezentarea enciclicei Magnifica humanitas. Potrivit unui organizator vatican, documentul primit în avans l-a neliniștit atât de mult încât a ridicat ideea retragerii Anthropic de la eveniment. În cele din urmă, au participat la prezentarea din 25 mai, dar, potrivit relatărilor a doi participanți, înainte de aceasta Olah și echipa sa au încercat, în discuții separate, să convingă consilierii papei să lase întrebarea deschisă.

Poziția enciclicei nu s-a schimbat: potrivit documentului, inteligențele artificiale nu trăiesc experiențe, nu au corp, nu simt bucurie sau durere și nu au nici conștiință morală. Textul pune accentul pe protecția demnității umane și avertizează că, în absența unor cadre morale elaborate în comun, valorile proprii ale actorilor care controlează inteligența artificială pot deveni fundamentul invizibil al sistemelor. Cu toate acestea, în cadrul prezentării, Olah a revenit la chestiunea conștiinței și a vorbit despre rezultate de cercetare care, în opinia sa, indică introspecție, respectiv despre stări interne care, în funcționarea lor, se aseamănă cu bucuria, frica și alte emoții. În același timp, a recunoscut că stimulii comerciali ai Anthropic și ai altor laboratoare de top din domeniul inteligenței artificiale pot intra în conflict cu funcționarea etică, motiv pentru care a considerat necesară și tragerea la răspundere din partea unor actori externi.

Inițiativa a fost criticată din mai multe direcții. Mustafa Suleyman, șeful diviziei de inteligență artificială a Microsoft, a avertizat că credința în conștiința artificială poate ascunde riscuri sociale, bioeticianul catolic Charles Camosy, care a participat la întâlniri, a concluzionat mai târziu că modelele nu sunt conștiente, iar cercetătoarea ubuntu Wakanyi Hoffman a criticat faptul că Anthropic încearcă să adauge ulterior etica unei tehnologii deja create, în loc să fi luat în considerare aceste întrebări încă din faza de proiectare.

Ugar