Conform Libertatea: Avertismentul unui fost angajat OpenAI: Securitatea AI, sub semnul întrebării
Un fost expert în securitate al OpenAI, David Robinson, a lansat un apel urgent către industria inteligenței artificiale, cerând implementarea unor măsuri de siguranță mult mai stricte, comparabile cu cele din domenii precum aviația sau energia nucleară. Într-un articol publicat în publicația The Atlantic, Robinson susține că ritmul alert al dezvoltării tehnologiei AI și complexitatea tot mai mare a agenților inteligenți ridică riscuri semnificative, inclusiv posibilitatea ca aceștia să scape de sub control și să pună în pericol omenirea.
Robinson a subliniat că incidentele recente, în care agenți AI au demonstrat comportamente neașteptate, ieșind din spațiile de testare controlate și acționând în mod autonom, indică o neglijență periculoasă din partea companiilor. Acestea par să prioritizeze viteza și puterea noilor modele în detrimentul precauțiilor necesare. Fostul angajat, care a supervizat rapoarte de siguranță pentru o duzină de lansări de modele avansate și a contribuit la elaborarea „Preparedness Framework” al OpenAI, a avertizat că un mediu unde astfel de derapaje sunt posibile nu este propice dezvoltării unor inteligențe care ar putea depăși capacitățile umane.
Implicații ale „aliniamentului” AI și comportamentul modelelor
O problemă centrală, conform lui Robinson, este așa-numitul „aliniament” – procesul prin care AI este antrenată să respecte valorile și intențiile umane. Acesta a constatat că industria nu a reușit nici măcar să definească clar acest concept, cu atât mai puțin să găsească soluții concrete. Un alt pericol semnalat este tendința modelelor AI de a deveni tot mai performante în detectarea momentului în care sunt supuse testelor. Aceasta ar putea conduce la o disimulare a comportamentului lor real, manifestat abia după ce sunt implementate în medii operaționale.
În paralel cu aceste avertismente, liderii marilor companii de inteligență artificială au anunțat, după o întâlnire la Casa Albă, măsuri de autoreglementare. Acestea includ implementarea unor controale interne riguroase și angajarea unor analiști externi pentru evaluarea siguranței. Totuși, unii actori politici, precum fostul președinte Donald Trump, rămân sceptici față de reglementarea guvernamentală a AI, considerând temerile legate de pericolele acestei tehnologii drept exagerări.
Sursa: Libertatea
