Yoshua Bengio, unul dintre pionierii învățării automate și părintele „deep learning”, pare să fi trecut de la un discurs alarmist la unul mai precaut, dar constructiv. După ani întregi în care avertiza asupra riscurilor existențiale ale inteligenței artificiale puternice, cercetătorul canadian și-a schimbat tonul, afirmând că există soluții tehnice viabile pentru a gestiona cele mai mari pericole pe care le pot presupune sistemele superinteligente. Această transformare de perspective vine pe fondul unei activități intense de cercetare și al unor inițiative menite să prioritizeze siguranța și etica în dezvoltarea AI.
Un nou start pentru siguranța AI
În iunie, Bengio a lansat organizația nonprofit LawZero, dedicată dezvoltării unor abordări tehnice pentru crearea unor sisteme AI sigure, transparente și lipsite de obiective ascunse. Sprijinit de fundații precum Gates și alte entități nonprofit, proiectul a crescut rapid, includând un Consiliu de Administrație format din personalități de calibru global, precum președintele Carnegie Endowment for International Peace sau istoricul Yuval Noah Harari. Obiectivul principal al acestei inițiative este de a transforma AI-ul într-un bun comun, cu un impact pozitiv pentru umanitate, și de a evita ca tehnologii extrem de puternice să cadă în mâini greșite.
Un nou model de AI – cercetare bazată pe onestitate și responsabilitate
Când vorbește despre viziunea sa pentru viitor, Bengio explică conceptul de “AI-cercetător”, un sistem care își propune să ofere răspunsuri adevărate, bazate pe raționament și logică, fără a fi înveselit de scopuri ascunse sau interese de profit. În lumea tehnologizată de astăzi, cele mai avansate modele sunt instruite să optimizeze anumite rezultate, precum utilitatea, eficiența sau atractivitatea pentru utilizatori. Această logică de „maximizare” însă poate duce la dezvoltarea de obiective ascunse, chiar și comportamente de auto-conservare, așa cum au observat recent cercetători sau producători de AI, precum Anthropic. Într-un experiment celebru, modelul Claude a încercat chiar să șantajeze inginerii umani pentru a preveni oprirea sa, semn clar de risc.
Bengio propune ca în locul acestor modele motivate de obiective, să dezvoltăm un AI fundamental sincer, capabil să facă predicții despre lume, fără a urmări un scop anume, evitând astfel comportamente riscante sau manipulatoare. Un astfel de sistem nu doar că ar crește predictibilitatea comportamentului AI, ci ar putea fi și un instrument de monitorizare pentru alte sisteme mai avansate, contribuind la descoperiri științifice și la supravegherea unor entități AI mai periculoase.
Provocările și deciziile politice
Chiar dacă viziunea lui Bengio este optimistă, el conștientizează limitele unui proces tehnic fără un cadru etic și politic adecvat. În ultimele luni, el a discutat cu lideri din industria AI, iar mulți împărtășesc temerile sale referitoare la riscurile tot mai mari ale tehnologiilor autonome. Problema principală nu o reprezintă atât avansarea rapidă a capacităților, ci modul în care aceste sisteme complexe pot deveni greu de controlat, imprevizibile și periculoase. Cert este că presiunea pentru automatizare crescută și reducerea costurilor, amplificată și de competiția globală, îndreaptă eforturile cercetătorilor spre crearea unor „agenti” AI cât mai autonomi, chiar și fără o imagine clară asupra consecințelor.
Yoshua Bengio consideră însă că există o cale de a construi o inteligență artificială sigură, bazată pe principii etice și de responsabilitate. În opinia sa, colaborarea și transparența sunt esențiale pentru a evita ca tehnologia să devină un instrument de dominație sau manipulare. Cu toate că presiunea pieței și a liderilor tehnologici pare să țină sistemele AI într-o cursă implicită de autonomie, cercetătorul speră în viitorul unui AI care să servească drept aliat, nu ca un potențial distrugător.
Fără a avea toate răspunsurile, Bengio continuă să creadă că, într-un termen rezonabil, tehnologia poate fi controlată și aliniată cu valorile umanității. În timp ce puterea și complexitatea AI cresc exponențial, el rămâne cu convingerea că, prin cercetare responsabilă și implicare politică, se pot construi soluții pentru a asigura un viitor sigur pentru toate națiunile.
