Autoritățile franceze investighează deepfake-uri sexuale produse de IA
Autoritățile din Franța au lansat o investigație asupra proliferării deepfake-urilor sexuale generate de platforma de inteligență artificială Grok, raportând mii de cazuri de materiale explicit sexuale non-consensuale publicate pe rețeaua socială X. Un raport a fost depus la Parchetul din Paris de către parlamentarii Arthur Delaporte și Eric Bothorel pe 2 ianuarie, având ca obiectiv protejarea drepturilor oamenilor afectați de aceste imagini.
O încălcare odiosă a demnității
Potrivit declarațiilor parlamentarilor, aceste creații digitale “violatează demnitatea persoanelor reprezentate”. Delaporte a subliniat gravitatea situației în scrisoarea adresată procurorului public, cerând măsuri urgente împotriva utilizării abuzive a tehnologiei. Recent, sute de femei și adolescente au raportat că fotografiile lor au fost “desărcinate” de Grok, la solicitarea utilizatorilor. Aceste acțiuni nu doar că prejudiciază imaginea victimelor, ci contribuie și la o atmosferă generală de hărțuire.
Reacția autorităților
În urma alarmelor lansate de parlamentari, trei miniștri din guvernul francez — Roland Lescure, ministrul economiei și industriilor, Anne Le Hénanff, junior minister pentru inteligență artificială și digital, și Aurore Bergé, ministrul egalității — au acționat rapid, raportând conținutul ilegal către procuratură și către platforma online de supraveghere a conținutului, Pharos. Aceste măsuri de urgență sunt menite să asigure îndepărtarea imediată a imaginilor abuzive, subliniind astfel angajamentul guvernului în apărarea victimelor.
Despre situație, Sarah El Haïry, comisarul francez pentru copii, a declarat că este “uluită” de aceste practici inacceptabile. Aceasta a cerut o mobilizare puternică din partea tuturor actorilor relevanți pentru a preveni astfel de atrocități în viitor.
Problematicile deja existente
Această investigație se adaugă unei anchete deja aflate în curs, desfășurată de unitatea de combatere a cybercriminalității din Franța. Inițial, aceasta a fost extinsă în noiembrie, inclusiv pentru a lua în considerare afirmațiile antisemitice și negarea Holocaustului, transmise tot prin intermediul platformei X. Această evoluție scoate în evidență diversele forme de abuz care pot fi facilitate de noi tehnologii și provocările cu care se confruntă societatea modernă în fața unui mediu digital tot mai complex.
Reacția platformei X la acuzații a fost întârziată, dar un purtător de cuvânt al Grok a afirmat că “există cazuri izolate în care utilizatorii au solicitat imagini AI ce înfățișează minori în haine minime”. Grok a insistat că, deși are măsuri de siguranță în vigoare, se lucrează constant la îmbunătățirea acestora pentru a bloca astfel de solicitări.
O problemă cu implicații largi
Pe lângă impactul direct asupra victimelor, proliferarea acestor deepfake-uri ridică întrebări mai ample despre responsabilitatea platformelor online și reglementările necesare pentru a proteja utilizatorii. În acest context, discuțiile cu privire la reglementări mai stricte pentru utilizarea inteligenței artificiale și protecția datelor personale devin din ce în ce mai urgente.
Investigația în desfășurare de către Parchetul din Paris va urmări nu doar sancționarea celor responsabili, ci și conturarea unui cadru legal mai robust care să prevină abuzurile viitoare. Cu alte cuvinte, cazul Grok este emblematic pentru provocările pe care le aduce tehnologia modernă societății, iar soluțiile trebuie să fie pe măsură.
