Inteligența artificială și-a intrat de-a binelea în infrastructura digitală globală, iar impactul nu mai este doar pozitiv. Dacă până nu demult discuțiile se axau pe beneficiile legate de productivitate și inovație, acum devine clar că aceste tehnologii pot fi folosite și pentru operațiuni ostile. Modelul Gemini, de exemplu, a fost exploatat de state și grupări criminale pentru aproape întregul ciclu al unui atac cibernetic, de la recunoaștere și phishing până la dezvoltarea de malware sofisticat.
Înarmați cu AI, atacatorii devin mai eficienți și mai rapizi. În trecut, pentru a orchestrat o campanie de hacking, un actor rău intenționat avea nevoie de echipe de specialiști, mult timp și resurse. Astăzi, asistat de inteligența artificială, poate obține rapid suport pentru cercetare, redactare de mesaje frauduloase, testare de vulnerabilități sau chiar dezvoltarea de cod malițios. AI nu înlocuiește atacatorul, dar îl face mai agil și mai difícil de detectat. Acest lucru a fost confirmat de diverse studii recente care arată că actorii statali din China, Iran, Coreea de Nord și Rusia utilizează Gemini pentru aproape întregul spectru al unui atac, de la identificarea țintelor până la suport post-compromitere.
De la recunoaștere la exfiltrare: AI în acțiune. Grupările de pe mapamond nu se mai limitează doar la colectarea de informații sau la pregătirea de atacuri de tip phishing, ci folosesc AI pentru a perfecționa toate etapele campagnei. Unele scenarii implică folosirea modelelor pentru a genera răspunsuri adaptate țintelor, inclusiv pentru crearea de mesaje de social engineering și fraudă, cu un realism fără precedent. Pentru exemplu, Iranul folosește aceste tehnologii pentru a redacta mesaje mai convingătoare, adresate specific profilului fiecărei victime. La fel, în cazul unor tool-uri de tip malware, se observă o tendință de integrare a AI pentru a accelera procesul de dezvoltare și testare. Două exemple sunt HonestCue, un framework pentru generarea de cod malițios, și CoinBait, un kit de phishing menit să înșele utilizatorii de platforme crypto, ambele ilustrând această direcție.
Tactici noi în social engineering și campanii de phishing. Utilizarea AI în campaniile de masare a platformelor de tip ClickFix a deschis un nou front. Acum, atacatorii pot produce mesaje aproape perfect adaptate limbii și stilului victimei, ceea ce face campaniile mai credibile și, implicit, mai eficiente. Anunțurile și rezultatele promovate par legitime, iar utilizatorul poate fi convins să ruleze comenzi rău intenționate fără să își dea seama. Respectarea unor reguli simple de securitate, precum verificarea sursei și a reputației, devine chiar mai importantă în fața unor astfel de atacuri sofisticate.
Riscul invizibil al modelului: furt de cunoaștere și proprietate intelectuală. Mai puțin vizibil, dar la fel de periculos, sunt tentativele de a extrage comportamentul modelelor de AI, pentru a le replica sau a le modifica în propriile scopuri. Atacatorii pot interoga în mod sistematic sistemele de tip API pentru a colecta informații și a antrena versiuni mai ieftine, cu scopul de a copia funcționalitatea sau de a diminua avantajul competitiv al firmelor de tehnologie. Aceste practici, deși mai puțin spectaculoase, pot avea consecințe semnificative pe termen lung.
În fața acestor noi provocări, companiile și utilizatorii trebuie să adopte măsuri mai stricte. De la politici interne pentru utilizarea AI și audituri periodice, până la o vigilentă mai mare atunci când verifică surse sau execută comenzi online. În același timp, dezvoltatorii de modele încearcă să își întărească filtrele și controalele pentru a limita daunele, dar acest efort necesită o colaborare globală și o adaptare rapidă la noile tactici ale infractorilor.
Perspectiva pe termen mediu indică o intensificare a competiției dintre atacatori și apărători. În acest context, tehnologia devine un dualist: accelerând inovația, dar și amplificând riscurile. În mâinile celor rău intenționați, AI înseamnă un instrument pentru automatizarea și înșelătoarea reacție, iar pentru cei onesti, un catalizator al schimbării. Cheia stă în modul în care vom gestiona această trecere și în disciplina digitală pe care o vom adopta toate. Pentru că, în final, diferența nu va fi dată doar de avansul tehnologic, ci de modul în care îl vom controla și dirija spre bine.
