Coreea de Sud a adoptat săptămâna trecută o lege-pilot în domeniul inteligenței artificiale, fiind prima țară din lume care implementează o legislație integrată dedicată reglementării tehnologiilor digitale emergente. Legislativul sud-coreean a stabilit un cadru legal menit să asigure transparență și responsabilitate în utilizarea AI, într-un context în care lumea întreagă se confruntă cu preocupări legate de manipularea informației și utilizarea tehnologiilor automatizate pentru scopuri discutabile. Deși inițiativa urmărește să poziționeze Coreea de Sud ca un centru global al inovației în AI, nu lipsesc criticile legate de oportunitatea și amploarea prevederilor legale adoptate.
Reglementări ambițioase pentru transparență și siguranță
Noul set de legi impune companiilor care dezvoltă și oferă servicii bazate pe inteligență artificială să aplice filigrane digitale invizibile pe conținutul generat artificial, precum desene animate sau opere de artă digitale. Pentru alte forme mai eficiente, cum ar fi deepfake-urile extrem de realiste, legislația cere etichete vizibile, menite să diferențieze clar realitatea de creațiile artificiale. În plus, utilizatorii de sisteme AI cu impact major, precum cele folosite pentru diagnostice clinice, recrutare sau acordarea de credite, vor fi obligați să efectueze evaluări de risc și să documenteze modul în care se iau deciziile automate. Aceasta vine într-un moment în care temerile legate de dezinformare și manipulare au atins cote alarmante, iar autoritățile mondiale încearcă să pună plafon pentru abuzuri.
„IA cu impact ridicat”, inclusiv cele care influențează decizii critice, vor fi supuse unor rapoarte de siguranță, deși oficialii recunosc că pragul impus este dificil de atins chiar și pentru cele mai avansate modele la nivel global. Aceasta evidențiază o discrepanță între intenții și realitate, întrucât în prezent, nicio tehnologie nu satisface pe deplin noile standarde anunțate. În cazul încălcării acestor reguli, companiile riscă amenzi de până la 15.000 de lire sterline, dar guvernul a promis o perioadă de grație de cel puțin un an, înainte de aplicarea sancțiunilor. În timp ce legislația vizează să fie un exemplu pentru alte națiuni, principalele preocupări privesc capacitatea reală a legii de a proteja cetățenii, dat fiind nivelul ascendent al dezvoltării tehnologice și protocoalele încă limitate legate de răspunsul la incidente.
Critici din partea startup-urilor și societății civile
Deși inițiativa legislativă urmărește să poziționeze Coreea de Sud pe harta mondială a AI, aceasta nu a fost primită fără controverse. Startup-urile locale din domeniul tehnologic și grupurile de apărare a drepturilor cetățenești susțin că normeile sunt insuficiente sau, dimpotrivă, prea restrictive, menite să favorizeze companiile mari și să împiedice inovația. Criticile vizează în special faptul că legea, în forma sa actuală, nu oferă un nivel adecvat de protecție persoanelor ale căror drepturi sunt încălcate de tehnologiile de tip deepfake sau alte sisteme AI discriminatorii sau invazive.
Perspectiva criticilor este alimentată și de faptul că, deși Coreea de Sud reprezintă 53% din totalul victimelor la nivel mondial în cazul deepfake-urilor pornografice, legislația nu include prevederi concrete de prevenire sau sancționare pentru astfel de cazuri, ci se limitează să ofere o protecție limitată pentru persoanele afectate. În plus, un raport din 2023 arată că rețelele masive de chatroom-uri Telegram, care au generat și distribuit imagini sexuale false cu femei și fete, au expus vulnerabilitățile sistemelor și lipsa unor mecanisme eficiente de intervenție.
Contextul și perspectiva viitoare
Inițiat în 2020, primul proiect de lege legat de inteligența artificială a stagnat din cauza temerilor legate de influența prea mare a industriei asupra normelor, precum și de lipsa unor mecanisme robuste de protecție. În ciuda criticilor, oficialii sud-coreeni susțin că legea, deși inițial fragile, va fi ajustată pe măsură ce tehnologia avansează și apar noi provocări. Ei cred că, în proporție de 80-90%, legislația are ca scop promovarea industriei și consolidarea poziției țării în competiția globală pentru supremația în domeniul AI, fiind o parte esențială a strategiei naționale de a deveni una dintre cele trei mari puteri mondiale în tehnologie, alături de SUA și China.
Timpul va arăta dacă această legislație, prima de acest gen aplicată la scară națională, va putea răspunde așteptărilor și nevoilor unui mediu digital în continuă schimbare, sau dacă va rămâne un proiect ambițios, dar insuficient pentru a face față provocărilor emergente ale inteligenței artificiale. În orice caz, această mișcare reprezintă un pas important în reglementarea uneizone a tehnologiei care, fără un control adecvat, poate deveni o sursă de riscuri și abuzuri fără precedent.
