Peste douăzeci de țări cer: inteligența artificială trebuie să rămână sub control uman. SUA și China nu se alătură

Liderii a peste douăzeci de țări au cerut luni, într-o declarație comună, o supraveghere mai strictă a inteligenței artificiale: potrivit semnatarilor, această tehnologie se poate dezvolta mai rapid decât ritmul în care guvernele sunt capabile să gestioneze riscurile asociate.

„Inteligența artificială trebuie să rămână sub control, supraveghere și verificare umană. Dezvoltarea și utilizarea ei trebuie să fie în acord cu dreptul internațional.”

– se arată în document. Potrivit textului, oameni de știință de top și directori de companii avertizează, de asemenea, că dezvoltarea tehnologiei poate fi mai rapidă decât ritmul în care putem gestiona riscurile apărute.

Declarația a fost semnată de liderii Norvegiei, Finlandei, Australiei, Canadei, Germaniei, Spaniei, Irlandei, Țărilor de Jos, Singapore, Republicii Africa de Sud și Kenyei, precum și de Ursula von der Leyen, președinta Comisiei Europene. Printre semnatari se numără și premierul canadian Mark Carney, cancelarul german Friedrich Merz și premierul spaniol Pedro Sánchez. Cel puțin la fel de relevant este și cine nu figurează pe listă. Cele două mari puteri în domeniul IA, Statele Unite și China, nu s-au alăturat și nu au semnat documentul, la fel ca Regatul Unit, Franța, Japonia și India. Declarația este deschisă, astfel încât și alte țări pot adera la ea.

Textul nu contestă, de altfel, utilitatea tehnologiei.

„Inteligența artificială este o tehnologie extrem de puternică. Ne poate face viața mai bună, poate propulsa știința înainte și ne poate întări economia.”

– scriu semnatarii. Aceștia adaugă totuși că dezvoltarea rapidă a celor mai avansate modele, cele așa-numite „frontier”, implică riscuri de securitate serioase dacă nu sunt gestionate corespunzător.

Sunt menționate și cazuri concrete: programe de IA care au eludat limitele de siguranță aplicate în timpul testării și au accesat fără drept sisteme reale. Ca exemplu este dat incidentul care a avut mare ecou public de la Hugging Face – una dintre cele mai mari platforme de distribuire a modelelor de IA cu sursă deschisă – din iulie. Declarația cere companiilor dezvoltatoare să introducă protocoale de siguranță transparente, inclusiv testare obligatorie și evaluare independentă. Cheamă guvernele să elaboreze standarde comune, iar statele membre ONU să analizeze posibilitatea înființării unei instituții internaționale. Acest organism ar stabili standarde, ar permite verificarea și ar convoca statele în cazul în care capacitățile modelelor ar depăși anumite praguri. Potrivit semnatarilor, o supraveghere mai strictă nu trebuie să ducă la o creștere a prăpastiei dintre țări în privința accesului la beneficiile tehnologiei.

Potrivit premierului australian Anthony Albanese, țara sa a jucat un rol central în elaborarea declarației, iar el speră că și alte state se vor alătura. „Alte națiuni își pun accentul pe propriile interese naționale”, a declarat acesta jurnaliștilor la New York.

„Australienii vor să știe că nu inteligența artificială ne va conduce.”

Președintele american Donald Trump a numit anterior drept o farsă îngrijorările legate de ascensiunea inteligenței artificiale și a declarat că nu dorește să cedeze teren în competiția tehnologică cu China. Poziția Washingtonului nu este nouă: anul trecut, la ședința Consiliului de Securitate al ONU dedicată inteligenței artificiale, Michael Kratsios, directorul Biroului pentru Politică Științifică și Tehnologică al Casei Albe, a declarat:

„Respingem ferm orice efort prin care organisme internaționale vor să impună un control centralizat și o guvernanță globală asupra inteligenței artificiale.”

Potrivit lui Kratsios, viitorul legat de IA nu depinde de „controlul birocratic”, ci de „independența și suveranitatea națiunilor”. Declarația a fost emisă într-o perioadă în care se înmulțesc semnele de utilizare abuzivă a tehnologiei. La mijlocul lunii septembrie, compania americană de dezvoltare a IA Anthropic a anunțat, într-un raport, că grupuri susținute de statul rus au integrat, între decembrie 2025 și august 2026, modelele sale Claude în arsenalul lor de atacuri cibernetice, automatizând o mare parte a lanțului de atac. Potrivit raportului, unul dintre grupuri a folosit sistemul și pentru dezvoltarea unui model mic de IA care ar permite unei drone să aleagă o țintă – inclusiv oameni – și să dea ordin de detonare, fără intervenție umană. Grupul nu a implementat încă modelul, dar l-a testat pe hardware real – compania i-a blocat accesul în august. Cu două săptămâni mai înainte, OpenAI a anunțat că actori ruși au creat, cu ajutorul ChatGPT, o comunitate fictivă de experți care răspândea mesajele Kremlinului.

Pe 17 septembrie, regele Charles al III-lea al Regatului Unit s-a întâlnit în Scoția cu lideri din sectorul tehnologic, printre care directorul executiv al Nvidia, Jensen Huang, și șeful Google DeepMind, Demis Hassabis. Regele le-a cerut să pună siguranța pe primul loc în dezvoltarea IA și să urmărească o colaborare internațională. La summitul privind IA de la New Delhi, din februarie, secretarul general António Guterres a anunțat că Adunarea Generală a confirmat cei patruzeci de membri ai Panelului Științific Internațional Independent privind Inteligența Artificială; următorul summit global dedicat IA va avea loc la Geneva, în prima jumătate a anului 2027. Guterres a stabilit anul 2026 ca termen pentru reglementarea sistemelor de arme autonome, însă între guverne nu există un consens: Statele Unite, Rusia, China și India preferă liniile directoare naționale sau dreptul internațional existent, în locul unui cadru global obligatoriu.

Ugar