În ultimii ani, dezvoltarea rapidă a tehnologiei AI a condus la o creștere semnificativă a conținutului deepfake, indistinguibil de materialele autentice. În 2025, aceste creații artificiale au devenit tot mai comune și mai avansate, fiind dificil de identificat chiar și de către experți, mai ales în materiale de rezoluție scăzută sau în mediile cu dificultăți tehnice. Astfel, atât utilizatorii obișnuiți, cât și autoritățile se confruntă cu provocarea de a distinge între real și fals, din cauza evoluției rapide a tehnologiei și proliferării conținutului false.
Un factor major în această creștere masivă a volumului de conținut fals este avansul tehnologic. Potrivit datelor companiei de securitate cibernetică DeepStrike, numărul de deepfake-uri online a crescut de la circa 500.000 în 2023, la aproape 8 milioane în 2025, înregistrând o creștere anuală de aproximativ 900%. Aceasta amplifică riscurile asociate cu dezinformarea, fraudele financiare și hărțuirea digitală. Modelele moderne de generare video mențin coerența mișcărilor și identității personajelor, eliminând imperfecțiunile vizibile din versiunile anterioare. Clonarea vocală a ajuns, de asemenea, la un nivel foarte avansat. Câteva secunde de înregistrare audio pot fi suficiente pentru a reproduce vocea aproape identic cu cea reală, inclusiv emoții și intonații naturale. Astfel, numărul tentativelor de fraudă vocală crește alarmant, cu mii de tentativa zilnice raportate de companii.
Instrumentele AI publice permit acum crearea rapidă a unor materiale video și audio complexe, fără cunoștințe tehnice avansate. Acestea pot genera scenarii automate sau interpretări audio-video de înaltă calitate, crescând riscul terorismului informațional și al manipulării.
Următoarea provocare majoră o reprezintă deepfake-urile în timp real. Experții anticipează apariția „actorilor digitali” care răspund instantaneu în apeluri video sau conversații online. Aceștia vor putea replica aspectul, comportamentul, reacțiile și gesturile unei persoane, rezultând fraude și înșelătorii dificil de detectat. În acest context, verificarea manuală devine ineficientă, necesitând implementarea unor soluții avansate, precum semnături criptografice și instrumente automate de analiză a autenticității.
În fața acestor evoluții, diferența dintre realitate și fals devine tot mai inkonistibilă. Este esențial ca specialiști și utilizatori să rămână informați și să monitorizeze continuu progresul tehnologic, pentru a putea face față noilor riscuri. Menținerea unei atitudini vigilente și adoptarea unor măsuri de securitate cibernetică adecvate sunt need-este în acest peisaj digital în rapidă schimbare.
