Inteligența artificială a scris cod de atac pe baza unei actualizări de securitate și l-a și testat

În timp ce informaticienii unei companii încă organizează instalarea celei mai recente actualizări de securitate, inteligența artificială a atacatorilor poate deja analiza cum ar putea fi exploatată vulnerabilitatea tocmai corectată pe calculatoarele pe care actualizarea nu a fost încă instalată. Cercetătorii în domeniul securității cibernetice de la Google au documentat pentru prima dată un sistem de atac care, fără intervenție umană, a realizat întreaga muncă – de la compararea codului corectat, la scrierea codului de atac, până la testarea acestuia –, reducând semnificativ timpul rămas pentru apărare.

Potrivit raportului publicat luni, 16 noiembrie, de Google Threat Intelligence Group (GTIG) și de compania afiliată Mandiant, atacatorii încredințează tot mai multe sarcini sistemelor de inteligență artificială capabile să execute în mod autonom instrucțiunile primite. Dacă până acum solicitau modelelor în principal ajutor de programare sau accelerau cu ajutorul lor câte o etapă a atacului, analiștii au identificat acum o soluție care conectează și parcurge independent toate etapele necesare pentru identificarea și exploatarea unei vulnerabilități. Google consideră acest lucru un moment de referință, întrucât în raportul anterior relatase doar despre procese de atac parțial automatizate.

Ce se întâmplă atunci când un program primește o actualizare?

Atunci când într-un program – de exemplu, într-un software care asigură funcționarea unui site web – este descoperită o vulnerabilitate de securitate, dezvoltatorii emit o corecție, numită în limbajul de specialitate patch. Cei care instalează această actualizare pot elimina vulnerabilitatea respectivă, însă publicarea corecției oferă și atacatorilor informații valoroase, pentru că din compararea versiunii vechi cu cea nouă a programului se poate deduce unde era eroarea și cum putea fi exploatată. Din această cunoaștere poate rezulta exploit-ul, adică acel cod de atac cu ajutorul căruia se poate penetra sistemele care nu au fost încă actualizate, motiv pentru care publicarea unei corecții declanșează de regulă o cursă între atacatori și administratorii sistemelor. Înțelegerea erorii și crearea unui program de atac funcțional putea avea loc rapid și în trecut, iar instrumente automatizate ajutau deja la această muncă, însă cazurile mai complicate necesitau expertiză considerabilă și o analiză care putea dura zile sau chiar săptămâni. În acest timp, companiile și instituțiile aveau o anumită perioadă pentru a instala actualizarea înainte ca cineva să exploateze breșa de securitate rămasă deschisă.

Analiștii Google au descoperit pe un server insuficient protejat, folosit pentru pregătirea atacurilor, pachetul de programe numit exploit_agent, format din mai mulți agenți de inteligență artificială care colaborau între ei. În acest caz, un agent reprezintă un program care folosește instrumente pentru a îndeplini sarcina primită, execută operațiuni și, pe baza rezultatului, își continuă activitatea, fiind astfel capabil de mult mai mult decât să răspundă la întrebări într-o fereastră de chat. Sistemul descoperit era conectat la mai multe modele lingvistice mari, inclusiv servicii comerciale avansate și modele care pot fi rulate local, sarcina sa fiind compararea continuă a codului aplicațiilor web populare, înainte și după aplicarea corecțiilor. Pe baza modificărilor, sistemul încerca să identifice posibila vulnerabilitate, elabora codul destinat exploatării acesteia și îl executa automat, astfel încât operatorul său nu trebuia să supravegheze personal fiecare încercare.

Pe server, în afara datelor furate de la victime, au fost găsite și programe destinate explorării ulterioare a sistemelor deja compromise, testării în masă a parolelor și instalării unor așa-numite webshell-uri. Un webshell este un program plasat pe un site compromis prin intermediul căruia atacatorul poate transmite de la distanță comenzi serverului și își poate păstra accesul și ulterior; printre programele confiscate s-a aflat și unul care elimina instrumentele similare ale altor atacatori, pentru ca rivalii să nu poată folosi același sistem compromis. Datele legate de victime, găsite pe server, indicau faptul că operatorul era interesat în special de site-urile din domeniul mass-media, divertismentului și educației din Franța, iar într-un fișier de configurare comentarii în limba rusă explicau unde trebuie introduse cheile de acces necesare utilizării serviciilor de inteligență artificială – una dintre instrucțiuni avertiza explicit că cheile trebuie introduse în locul corespunzător din fișier, nu în fereastra de chat.

În plus, atacatorii nu trebuie să scrie ei înșiși toate programele, pentru că pot folosi și instrumentele disponibile public, dezvoltate inițial pentru specialiștii în securitate, pentru a testa, cu permisiune, sistemele unei companii și pentru a identifica punctele vulnerabile înainte ca infractorii să o facă. Google a observat deja instrumentele numite CAIRN și PentAGI folosite în activități de atac reale, în timp ce în cazul CyberStrikeAI a raportat, până acum, doar experimente. CAIRN a fost folosit în operațiuni împotriva unor ținte din industria aerospațială americană, iar un alt atacator a desfășurat, de la finalul lunii august până la începutul lunii octombrie, activități regulate de recunoaștere și evaluare a vulnerabilităților la un număr mare de organizații asiatice, folosind o versiune modificată a PentAGI. Analiștii au descoperit și urme ale unui sistem de atac automatizat, dezvoltat propriu, al unui grup legat de China, despre care estimează că era destinat probabil activităților de spionaj. Totuși, sarcina inteligenței artificiale nu se termină odată cu intruziunea, întrucât actorii legați de China o folosesc și pentru procesarea și interpretarea datelor furate, în timp ce atacatorii nord-coreeni o utilizează pentru a construi identități profesionale false, inclusiv pentru a induce în eroare companii din domeniul criptomonedelor.

Raportul abordează separat și abuzul numit LLMjacking, în cadrul căruia infractorii obțin datele de acces ale unei companii la serviciile de cloud sau la modelele de inteligență artificială, pe care apoi le folosesc pe cheltuiala victimei. Printre cazurile analizate de Mandiant s-a aflat unul în care, într-o singură zi, s-au acumulat costuri neautorizate de peste o sută de mii de dolari, iar în cele mai grave cazuri factura a crescut până la un milion de dolari până la stoparea abuzului. Potrivit datelor analizate de Google, între ianuarie și august 2026 numărul vulnerabilităților făcute publice și al exploit-urilor aproape s-a dublat, iar în august au fost înregistrate douăzeci și două de exploatări ale unor vulnerabilități considerate zero-day. Aceasta înseamnă că, la momentul atacului, nu exista încă o corecție disponibilă, astfel încât administratorii nu ar fi putut elimina eroarea printr-o simplă actualizare, chiar dacă își întrețineau cu grijă sistemele.

În cazul exploit_agent, însă, principalul pericol îl reprezintă erorile deja corectate, pentru că, între publicarea corecției și instalarea sa efectivă, calculatoarele rămân vulnerabile. Dacă atacatorii produc un cod funcțional mai rapid decât înainte, eventual în câteva ore, o actualizare întârziată poate reprezenta un risc mult mai mare decât cel estimat anterior de administrator. Automatizarea, desigur, nu face ca toate încercările să fie încununate de succes, iar Google avertizează că printre codurile de atac generate de inteligența artificială și prezentate ca funcționale, multe sunt de fapt inutilizabile. Verificarea acestora consumă însă, la rândul ei, timpul specialiștilor în apărare, care trebuie, pe lângă identificarea pericolelor reale, să filtreze și alertele false. În prezent, apărătorii beneficiază de un avantaj: aceste sisteme, de dragul rapidității, sacrifică adesea discreția și lasă în urmă un trafic de rețea abundent și evident, precum și urme ușor de identificat, motiv pentru care, într-o rețea monitorizată adecvat, activitatea lor poate fi mai facil detectată decât cea a unui atacator uman răbdător și precaut – însă acest lucru, în sine, nu îi împiedică să provoace daune.

Google se așteaptă ca, odată cu evoluția modelelor și a programelor construite pe baza lor, să fie necesară tot mai puțină implicare umană, în timp ce atacurile vor deveni tot mai dificil de detectat. Compania a anunțat că a acționat împotriva conturilor și proiectelor care abuzau de serviciul Gemini și că, pe baza experienței acumulate, și-a consolidat capacitatea de detectare a abuzurilor, pregătind pentru apărători soluții de detectare bazate pe comportament, precum și un ghid de protecție elaborat cu contribuția Mandiant. Întârzierea actualizărilor devine astfel un obicei tot mai riscant, pentru că aceeași corecție care elimină vulnerabilitatea pe un calculator poate dezvălui atacatorilor și unde merită să încerce pe celelalte. În timp ce administratorul așteaptă un moment mai potrivit pentru instalarea actualizării, sistemul atacatorilor poate deja analiza modificările, poate scrie codul și poate căuta serverele pe care breșa de securitate a rămas deschisă.

Ugar

V-a plăcut articolul?

Susțineți munca noastră cu o donație mică

Plată securizată prin Stripe • Min. 2 EUR

Recomandări Gesta:

Hupsz: s-a blocat rețeaua secretă a NSA

Hupsz: s-a blocat rețeaua secretă a NSA

La câteva zile după pana de sistem a Microsoft, resimțită la nivel mondial, și după interdicția de decolare care a paralizat aeroporturile americane, serviciul s-a întrerupt și la unul dintre cele mai sensibile sisteme informatice ale Statelor Unite: s-a blocat rețeaua internă strict secretă prin care angajații Agenției Naționale de Securitate (NSA) își comunică informații clasificate. Până acum…

ugar•
Lasconi ar susține alianța PNL-USR, dar se teme că din nou toată lumea va vrea prea mult

Lasconi ar susține alianța PNL-USR, dar se teme că din nou toată lumea va vrea prea mult

Elena Lasconi consideră că ar fi benefic pentru dreapta românească dacă PNL și USR ar forma o alianță și ar încerca, sub un nume nou, să recâștige încrederea alegătorilor dezamăgiți de partide, însă e mai puțin convinsă că acordul se va materializa cu adevărat. Fosta președintă a USR și-a explicat îndoielile prin experiența propriei campanii pentru candidatura la prezidențiale, amintind că, în…

ugar•
20 de ani în Uniune: Negrescu cere un nou plan european pentru România

20 de ani în Uniune: Negrescu cere un nou plan european pentru România

La douăzeci de ani de la adherarea României și Bulgariei la Uniunea Europeană, la 1 ianuarie 2007, Victor Negrescu, vicepreședinte PSD al Parlamentului European, consideră că România are nevoie de un nou program european, care să unească clasa politică și societatea civilă. „Avem nevoie de un nou proiect european pentru țara noastră, de un plan european pentru România” – a declarat el la sediul…

ugar•
Comisia Europeană se așteaptă la o scădere, nu la o creștere, a economiei României, în timp ce inflația va fi și ea mai mare decât se spera

Comisia Europeană se așteaptă la o scădere, nu la o creștere, a economiei României, în timp ce inflația va fi și ea mai mare decât se spera

Economia României ar putea scădea cu 0,3% în acest an, iar inflația medie anuală ar putea ajunge la 7,9%, potrivit prognozei de toamnă publicate de Comisia Europeană pe 17 noiembrie. În primăvară, Bruxelles estima încă o creștere modestă de 0,1% și o inflație de 7%, însă evaluarea actuală arată că restricțiile bugetare, scumpirile și incertitudinea frânează economia mai puternic decât se anticipa.

ugar•
S-au încheiat, în fine, testele sistemelor israeliene de drone de recunoaștere destinate armatei române

S-au încheiat, în fine, testele sistemelor israeliene de drone de recunoaștere destinate armatei române

La aproape un an și jumătate după termenul inițial de livrare, s-au încheiat testele de recepție pentru cele trei sisteme de drone de recunoaștere Watchkeeper X pe care România le-a comandat în 2023 de la israelianul Elbit Systems. Potrivit producătorului, toate cele trei sisteme sunt finalizate și pot fi predate, armata trebuind însă să mai finalizeze procedura oficială de recepție, în timp ce…

ugar•