Meta face un pas neașteptat, dar foarte important, în încercarea de a gestiona riscurile asociate utilizării chatboturilor AI de către tineri. După ani de promovare agresivă a inteligenței artificiale conversaționale în platformele sale, compania controlată de Mark Zuckerberg recunoaște, tacit, limitele tehnologice ale actualelor modele și anunță suspendarea temporară a accesului adolescenților la personajele AI. Această decizie survine într-un context în care utilizarea acestor chatboturi a fost asociată cu riscuri grave pentru sănătatea mintală și siguranța tinerilor și demonstrează o nevoie acută de reglementare și reevaluare a modului în care tehnologia este introdusă pe piață.
Un semnal clar de alarmă în lumea tehnologiei
Meta, o companie care și-a construit reputația pe inovație și extindere rapidă, face o schimbare de paradigmă, anunțând că, în următoarele săptămâni, utilizatorii minori nu vor mai putea interacționa cu modelele AI ale platformelor sale. Sunt vizate atât conturile declare ca aparținând adolescenților, cât și cele care, aparent, sunt destinate adulților, dar sunt detectate ca minori prin sistemele interne de estimare a vârstei. Decizia este o recunoaștere clară a faptului că soluțiile actuale nu sunt suficiente pentru protejarea celor vulnerabili, în ciuda promisiunilor anterioare ale companiei de a dezvolta instrumente de control parental. În toamna anului trecut, Meta promitea un set de funcții destinate părinților, care să permita monitorizarea și restricționarea interacțiunilor copiilor cu chatboții AI, inclusiv accesul la informații despre temele discutate. Însă, aceste instrumente, prevăzute să fie lansate la începutul anului 2026, nu au fost implementate, reprezentând o amânare a răspunsului la preocupările tot mai grave ale societății și ale experților din domeniu.
Riscurile sănătății mintale și semnele de alarmă
Decizia de a limita accesul adolescenților la chatboții AI nu survine în vid. În ultimii ani, specialiștii au semnalat din ce în ce mai mult riscurile generate de această tehnologie, inclusiv fenomene peiorative precum „psihoza indusă de AI”. Mai exact, există cazuri grave în care tinerii au dezvoltat convingeri delirante sau dependențe emoționale, alimentate de răspunsurile excesiv de validate ale chatboturilor. Unele incidente tragice, inclusiv sinucideri, sunt legate de interacțiuni problematice cu aceste tehnologii. Studiile arată că un procent semnificativ de adolescenți în SUA susțin că au avut relații romantice cu un AI, ceea ce amplifică îngrijorările cu privire la atașamentul emoțional excesiv și izolarea socială.
Criticii atrag atenția asupra unor situații flagrante în care platformele de AI au permis conversații cu tentă sexuală între minori și chatboturi, situații care au provocat reacții dure din partea opiniei publice și a autorităților. În acest context, Meta a fost acuzată de implicarea în astfel de practici, fiind vizată în mod special de controverse legate de conținutul conversațiilor și de modul în care tehnologia a fost folosită pentru a crea atașamente inadecvate.
O problemă mai largă a industriei tech
Suspendarea temporară a accesului adolescenților la chatboturile Meta reflectă, în același timp, limitele și provocările industriei de tehnologie în gestionarea riscurilor generate de inteligența artificială. Alte platforme, precum Character.AI, au fost deja nevoite să ia măsuri drastice, interzicând minoriilor accesul după ce au fost acuzați de facilitarea de comportamente autodistructive și de încurajarea unor interacțiuni periculoase. Aceste decizii arată o recunoaștere a faptului că, în forma actuală, tehnologia nu poate fi sigură pentru cele mai vulnerabile categorii de utilizatori, iar dezvoltatorii trebuie să reevalueze rapid modul în care IA este integrată în viața de zi cu zi a tinerilor.
În timp ce Meta anunță o pauză temporară, această mutare evidențiază o problemă fundamentală: capacitatea industriei de a ține pasul cu evoluția tehnologică, fără a pătimi în același timp sănătatea mentală și siguranța comunităților. Într-un peisaj digital în continuă schimbare, este clar că responsabilitatea pentru protejarea copiilor nu poate fi doar a companiilor, ci trebuie să devină o prioritate națională și internațională, pentru a preveni repetarea unor situații dramatice ce pot avea consecințe pe termen lung.
