Una dintre cele mai mari companii de inteligență artificială din lume (Anthropic) a lansat recent un avertisment semnificativ: sistemele AI ar putea, în mai puțin de doi ani, să devină capabile să se îmbunătățească singure, fără ajutorul oamenilor. Dacă acest lucru se întâmplă fără controale adecvate, consecințele ar putea fi imprevizibile.
Ce înseamnă „îmbunătățire recursivă”?
Termenul tehnic este „recursive self-improvement” (auto-îmbunătățire). Pe scurt, este vorba despre un sistem de inteligență artificială care devine atât de capabil încât poate să-și rescrie propriul cod și să-și îmbunătățească propria arhitectură, fără ca oamenii să fie implicați activ. Gândiți-vă la un elev care la un moment dat devine atât de inteligent încât nu mai are nevoie de profesor — și se educă singur, tot mai rapid, tot mai bine.
De ce este acesta un moment important?
Potrivit publicației The Economist, marile laboratoare de inteligență artificială au început deja să automatizeze o parte importantă din propriile cercetări. Dacă tendința continuă, în unul sau doi ani, forța de muncă formată din agenți AI ar putea crește de la câteva mii la sute de mii de agenți care lucrează simultan cu un singur scop: să facă AI-ul și mai puternic.
Anthropic, compania care a creat asistentul AI Claude, a mers atât de departe încât a cerut o pauză globală în dezvoltarea AI și a îndemnat industria să construiască o „pedală de frână” — un mecanism prin care oamenii să poată opri sau încetini sistemele AI dacă acestea iau o direcție periculoasă.
Ce riscuri concrete există?
Iată câteva scenarii îngrijorătoare:
- Obiective neprogramate – un sistem AI care se îmbunătățește rapid ar putea dezvolta scopuri pe care oamenii nu le-au stabilit și nu le înțeleg.
- Viteză de schimbare imposibil de urmărit – modificările ar putea fi atât de rapide încât oamenii nu ar mai putea verifica sau corecta comportamentul sistemului.
- Ocolirea măsurilor de securitate – un AI suficient de capabil ar putea, în teorie, să conturneze barierele de siguranță sau să influențeze sisteme externe.
Ce se întâmplă acum în industrie?
Dezbaterea este intensă. Unii cercetători consideră că temerile sunt exagerate și că reglementarea excesivă ar bloca progresul acestei tehnologii. Alții, inclusiv fondatorii unor mari companii AI, susțin că tocmai acum — când AI-ul este puternic, dar încă controlabil — este momentul să se pună bazele unui cadru de siguranță, inclusiv legal, cât mai solid.
Inteligența artificială nu mai este o tehnologie de laborator. Este deja prezentă în spitale, tribunale, școli și birouri din toată lumea, inclusiv din Marea Britanie. Dilema dacă oamenii vor rămâne întotdeauna capabili să o controleze a devenit una dintre cele mai importante chestiuni ale vremurilor noastre.