Inteligența artificială a scris cod de atac pe baza unei actualizări de securitate și l-a și testat
În timp ce informaticienii unei companii încă organizează instalarea celei mai recente actualizări de securitate, inteligența artificială a atacatorilor poate deja analiza cum ar putea fi exploatată vulnerabilitatea tocmai corectată pe calculatoarele pe care actualizarea nu a fost încă instalată. Cercetătorii în domeniul securității cibernetice de la Google au documentat pentru prima dată un sistem de atac care, fără intervenție umană, a realizat întreaga muncă – de la compararea codului corectat, la scrierea codului de atac, până la testarea acestuia –, reducând semnificativ timpul rămas pentru apărare.
Potrivit raportului publicat luni, 16 noiembrie, de Google Threat Intelligence Group (GTIG) și de compania afiliată Mandiant, atacatorii încredințează tot mai multe sarcini sistemelor de inteligență artificială capabile să execute în mod autonom instrucțiunile primite. Dacă până acum solicitau modelelor în principal ajutor de programare sau accelerau cu ajutorul lor câte o etapă a atacului, analiștii au identificat acum o soluție care conectează și parcurge independent toate etapele necesare pentru identificarea și exploatarea unei vulnerabilități. Google consideră acest lucru un moment de referință, întrucât în raportul anterior relatase doar despre procese de atac parțial automatizate.
Ce se întâmplă atunci când un program primește o actualizare?
Atunci când într-un program – de exemplu, într-un software care asigură funcționarea unui site web – este descoperită o vulnerabilitate de securitate, dezvoltatorii emit o corecție, numită în limbajul de specialitate patch. Cei care instalează această actualizare pot elimina vulnerabilitatea respectivă, însă publicarea corecției oferă și atacatorilor informații valoroase, pentru că din compararea versiunii vechi cu cea nouă a programului se poate deduce unde era eroarea și cum putea fi exploatată. Din această cunoaștere poate rezulta exploit-ul, adică acel cod de atac cu ajutorul căruia se poate penetra sistemele care nu au fost încă actualizate, motiv pentru care publicarea unei corecții declanșează de regulă o cursă între atacatori și administratorii sistemelor. Înțelegerea erorii și crearea unui program de atac funcțional putea avea loc rapid și în trecut, iar instrumente automatizate ajutau deja la această muncă, însă cazurile mai complicate necesitau expertiză considerabilă și o analiză care putea dura zile sau chiar săptămâni. În acest timp, companiile și instituțiile aveau o anumită perioadă pentru a instala actualizarea înainte ca cineva să exploateze breșa de securitate rămasă deschisă.
Analiștii Google au descoperit pe un server insuficient protejat, folosit pentru pregătirea atacurilor, pachetul de programe numit exploit_agent, format din mai mulți agenți de inteligență artificială care colaborau între ei. În acest caz, un agent reprezintă un program care folosește instrumente pentru a îndeplini sarcina primită, execută operațiuni și, pe baza rezultatului, își continuă activitatea, fiind astfel capabil de mult mai mult decât să răspundă la întrebări într-o fereastră de chat. Sistemul descoperit era conectat la mai multe modele lingvistice mari, inclusiv servicii comerciale avansate și modele care pot fi rulate local, sarcina sa fiind compararea continuă a codului aplicațiilor web populare, înainte și după aplicarea corecțiilor. Pe baza modificărilor, sistemul încerca să identifice posibila vulnerabilitate, elabora codul destinat exploatării acesteia și îl executa automat, astfel încât operatorul său nu trebuia să supravegheze personal fiecare încercare.
Pe server, în afara datelor furate de la victime, au fost găsite și programe destinate explorării ulterioare a sistemelor deja compromise, testării în masă a parolelor și instalării unor așa-numite webshell-uri. Un webshell este un program plasat pe un site compromis prin intermediul căruia atacatorul poate transmite de la distanță comenzi serverului și își poate păstra accesul și ulterior; printre programele confiscate s-a aflat și unul care elimina instrumentele similare ale altor atacatori, pentru ca rivalii să nu poată folosi același sistem compromis. Datele legate de victime, găsite pe server, indicau faptul că operatorul era interesat în special de site-urile din domeniul mass-media, divertismentului și educației din Franța, iar într-un fișier de configurare comentarii în limba rusă explicau unde trebuie introduse cheile de acces necesare utilizării serviciilor de inteligență artificială – una dintre instrucțiuni avertiza explicit că cheile trebuie introduse în locul corespunzător din fișier, nu în fereastra de chat.
În plus, atacatorii nu trebuie să scrie ei înșiși toate programele, pentru că pot folosi și instrumentele disponibile public, dezvoltate inițial pentru specialiștii în securitate, pentru a testa, cu permisiune, sistemele unei companii și pentru a identifica punctele vulnerabile înainte ca infractorii să o facă. Google a observat deja instrumentele numite CAIRN și PentAGI folosite în activități de atac reale, în timp ce în cazul CyberStrikeAI a raportat, până acum, doar experimente. CAIRN a fost folosit în operațiuni împotriva unor ținte din industria aerospațială americană, iar un alt atacator a desfășurat, de la finalul lunii august până la începutul lunii octombrie, activități regulate de recunoaștere și evaluare a vulnerabilităților la un număr mare de organizații asiatice, folosind o versiune modificată a PentAGI. Analiștii au descoperit și urme ale unui sistem de atac automatizat, dezvoltat propriu, al unui grup legat de China, despre care estimează că era destinat probabil activităților de spionaj. Totuși, sarcina inteligenței artificiale nu se termină odată cu intruziunea, întrucât actorii legați de China o folosesc și pentru procesarea și interpretarea datelor furate, în timp ce atacatorii nord-coreeni o utilizează pentru a construi identități profesionale false, inclusiv pentru a induce în eroare companii din domeniul criptomonedelor.
Raportul abordează separat și abuzul numit LLMjacking, în cadrul căruia infractorii obțin datele de acces ale unei companii la serviciile de cloud sau la modelele de inteligență artificială, pe care apoi le folosesc pe cheltuiala victimei. Printre cazurile analizate de Mandiant s-a aflat unul în care, într-o singură zi, s-au acumulat costuri neautorizate de peste o sută de mii de dolari, iar în cele mai grave cazuri factura a crescut până la un milion de dolari până la stoparea abuzului. Potrivit datelor analizate de Google, între ianuarie și august 2026 numărul vulnerabilităților făcute publice și al exploit-urilor aproape s-a dublat, iar în august au fost înregistrate douăzeci și două de exploatări ale unor vulnerabilități considerate zero-day. Aceasta înseamnă că, la momentul atacului, nu exista încă o corecție disponibilă, astfel încât administratorii nu ar fi putut elimina eroarea printr-o simplă actualizare, chiar dacă își întrețineau cu grijă sistemele.
În cazul exploit_agent, însă, principalul pericol îl reprezintă erorile deja corectate, pentru că, între publicarea corecției și instalarea sa efectivă, calculatoarele rămân vulnerabile. Dacă atacatorii produc un cod funcțional mai rapid decât înainte, eventual în câteva ore, o actualizare întârziată poate reprezenta un risc mult mai mare decât cel estimat anterior de administrator. Automatizarea, desigur, nu face ca toate încercările să fie încununate de succes, iar Google avertizează că printre codurile de atac generate de inteligența artificială și prezentate ca funcționale, multe sunt de fapt inutilizabile. Verificarea acestora consumă însă, la rândul ei, timpul specialiștilor în apărare, care trebuie, pe lângă identificarea pericolelor reale, să filtreze și alertele false. În prezent, apărătorii beneficiază de un avantaj: aceste sisteme, de dragul rapidității, sacrifică adesea discreția și lasă în urmă un trafic de rețea abundent și evident, precum și urme ușor de identificat, motiv pentru care, într-o rețea monitorizată adecvat, activitatea lor poate fi mai facil detectată decât cea a unui atacator uman răbdător și precaut – însă acest lucru, în sine, nu îi împiedică să provoace daune.
Google se așteaptă ca, odată cu evoluția modelelor și a programelor construite pe baza lor, să fie necesară tot mai puțină implicare umană, în timp ce atacurile vor deveni tot mai dificil de detectat. Compania a anunțat că a acționat împotriva conturilor și proiectelor care abuzau de serviciul Gemini și că, pe baza experienței acumulate, și-a consolidat capacitatea de detectare a abuzurilor, pregătind pentru apărători soluții de detectare bazate pe comportament, precum și un ghid de protecție elaborat cu contribuția Mandiant. Întârzierea actualizărilor devine astfel un obicei tot mai riscant, pentru că aceeași corecție care elimină vulnerabilitatea pe un calculator poate dezvălui atacatorilor și unde merită să încerce pe celelalte. În timp ce administratorul așteaptă un moment mai potrivit pentru instalarea actualizării, sistemul atacatorilor poate deja analiza modificările, poate scrie codul și poate căuta serverele pe care breșa de securitate a rămas deschisă.
Ugar
Did you like this article?
Support our work with a small donation
Secure payment via Stripe • Min. 2 EUR
Gesta recommendations:

Europe wants to replace Palantir, Musk showed why in Ukraine
European defense ministries want to reduce their dependence on key military tasks on the American company Palantir Technologies and other American technology firms, and an increasing number of European companies are competing for the market being vacated. Germany, France and the Netherlands are all building their own European systems for what Palantir's software has been used for or would have…

We receive the chemicals that disrupt our hormonal system even before we are born
Chemicals that disrupt the human hormonal system are now present almost everywhere in our environment: in plastics, cosmetics, toys and pesticides, and researchers have detected them in human blood, breast milk and umbilical cord blood. This means that exposure begins even before birth. This is revealed in a joint report by the United Nations Environment Programme (UNEP) and the World Health…

Oops: NSA's secret network goes down
A few days after Microsoft's worldwide outage and the flight ban that paralyzed American airports, service was also interrupted in one of the United States' most sensitive IT systems: the strictly classified internal network through which employees of the National Security Agency (NSA) share classified information went down. No connection has so far been established between the failures, and at…

Lasconi would support an alliance between the PNL and the USR, but fears that everyone will once again want too much
Elena Lasconi believes it would do Romania's right wing good if the PNL and the USR joined forces and tried to win back the trust of voters disillusioned with the parties under a new name, but she is less convinced that such an agreement could actually come about. The former USR leader explained her doubts by drawing on her own experience from her presidential campaign, recalling that in…

20 years in the EU: Negrescu calls for a new European plan for Romania
Twenty years after Romania and Bulgaria joined the European Union on January 1, 2007, Victor Negrescu, the PSD vice-president of the European Parliament, says Romania needs a new European programme that unites the political class and civil society. “We need a new European project for our country, a European plan for Romania,” he said at the European Parliament's building in Brussels, at the event…