Liderii agențiilor de securitate cibernetică au afirmat că inteligența artificială mărește viteza, amploarea, gradul de sofisticare și complexitatea amenințărilor.
Avertismentul arată că tehnologiile avansate de inteligență artificială ar putea accelera atât atacurile cibernetice, cât și activitățile de apărare, sporind presiunea asupra organizațiilor care folosesc asistenți AI, instrumente de tip „copilot”, aplicații pentru navigarea pe internet și agenți conectați la datele companiilor, notează Tech Republic.
Pentru echipele de securitate, prioritatea nu mai este doar dacă trebuie să adopte inteligența artificială, ci și cum să îi controleze accesul, să îi monitorizeze acțiunile și să se pregătească pentru atacuri care se desfășoară mai repede decât permit ciclurile tradiționale de răspuns.
Inteligența artificială reduce timpul de reacție la atacurile cibernetice
În declarația comună a Five Eyes, liderii agențiilor de securitate cibernetică au afirmat că inteligența artificială mărește viteza, amploarea, gradul de sofisticare și complexitatea amenințărilor.
Agențiile au prezentat riscurile cibernetice asociate inteligenței artificiale drept o problemă care trebuie gestionată la nivelul conducerii organizațiilor. Acestea le-au recomandat companiilor să reducă suprafața de atac, să instaleze mai rapid actualizările de securitate, să remedieze problemele sistemelor învechite, să consolideze controlul identității și al accesului și să pregătească planuri de răspuns la incidente.
Inteligența artificială îi poate ajuta pe atacatori să caute vulnerabilități, să genereze mesaje de phishing mai convingătoare și să treacă mai rapid de la identificarea unei vulnerabilități la exploatarea acesteia.
În același timp, AI poate ajuta echipele de apărare să găsească vulnerabilități, să monitorizeze comportamente neobișnuite și să reacționeze mai rapid la incidente.
Permisiunile și înregistrarea activităților au devenit elemente esențiale pentru securitatea instrumentelor AI utilizate în companii. Un asistent care are acces extins la e-mailuri, documente sau platforme de colaborare poate expune date sensibile dacă modul în care recuperează și sintetizează informațiile sau execută acțiuni este manipulat.
Incidentele recente care au implicat accesul furnizorilor și expunerea datelor clienților arată de ce sistemele conectate și integrările cu servicii terțe trebuie analizate cu atenție.
Clasamentul OWASP al principalelor zece riscuri pentru aplicațiile bazate pe modele lingvistice mari plasează „prompt injection” pe primul loc în ediția din 2025. Termenul desemnează atacurile care manipulează un model prin instrucțiuni directe sau prin conținut extern accesat de acesta.
O instrucțiune malițioasă poate fi ascunsă într-un e-mail, într-o pagină web, într-un document, într-un mesaj sau într-o înregistrare dintr-o bază de cunoștințe. Dacă un asistent AI accesează acel conținut, modelul poate procesa instrucțiunea ascunsă împreună cu materialul pe care utilizatorul i-a cerut să îl rezume sau să îl analizeze.
Un exemplu documentat este vulnerabilitatea EchoLeak, identificată drept CVE-2025-32711. Cercetătorii au afirmat că problema descoperită în Microsoft 365 Copilot a arătat cum un e-mail special conceput putea declanșa extragerea neautorizată a datelor prin intermediul unui asistent AI, fără nicio intervenție din partea utilizatorului.
Inteligența artificială generativă îi poate ajuta, de asemenea, pe atacatori să redacteze mesaje de phishing mai bine realizate și mai personalizate. Acest risc se suprapune tendințelor generale din domeniul criminalității informatice, inclusiv escrocheriilor și campaniilor de phishing bazate pe AI, semnalate recent în rapoarte privind amenințările din regiunea Asia-Pacific.
Printre configurațiile cu risc ridicat se numără asistenții AI conectați la sisteme de e-mail, calendare și documente, instrumentele care rezumă conținutul paginilor web, sistemele care preiau informații din surse interne și publice și agenții autorizați să trimită mesaje, să modifice fișiere, să execute interogări sau să acționeze fără aprobarea unui utilizator.
Agenția americană pentru Securitate Cibernetică și Securitatea Infrastructurii și partenerii săi au recomandat prudență în utilizarea serviciilor AI de tip agent, care pot folosi instrumente sau executa acțiuni cu diferite niveluri de autonomie.
Adoptarea acestor tehnologii avansează rapid în sectorul programelor pentru companii, pe măsură ce furnizorii adaugă tot mai multe funcții AI de tip agent. Sistemele respective au nevoie de controale stricte ale accesului, aprobarea umană a acțiunilor sensibile, jurnale de activitate și proceduri pentru gestionarea incidentelor.
Răspunsul practic nu constă în oprirea adoptării inteligenței artificiale, ci în limitarea zonelor și datelor la care instrumentele AI pot avea acces. Echipele de securitate ar trebui să inventarieze toate conexiunile instrumentelor AI, să reducă permisiunile la nivelul minim necesar, să dezactiveze funcțiile inutile de rezumare a paginilor web, să înregistreze activitatea asistenților și să testeze modul în care ar investiga un incident asociat inteligenței artificiale.
