Inteligența artificială poate face lucruri utile: poate traduce texte, ajuta medicii sau compara informații. Dar tot mai multe persoane care lucrează în acest domeniu spun că dezvoltarea ei rapidă poate deveni periculoasă dacă nu există reguli și verificări serioase, arată o analiză publicată de The Economist.
Îngrijorarea nu este legată doar de potențiale greșeli de operare. Specialiștii discută despre sisteme suficient de puternice care pot fi folosite pentru fraude, atacuri informatice sau supraveghere în masă. Compania Anthropic a semnalat cazuri în care persoane rău intenționate au încercat să folosească modele AI pentru scopuri periculoase.
Ar trebui încetinită dezvoltarea inteligenței artificiale?
Sam Altman, directorul OpenAI, Elon Musk și Dario Amodei, directorul Anthropic, au susținut recent ideea că dezvoltarea celor mai puternice sisteme trebuie făcută mai lent și cu mai multe garanții. Ei se tem că agenți AI — programe care pot executa mai multe sarcini singure — ar putea scăpa de sub control dacă nu sunt testați și limitați corect.
Nu înseamnă că un chatbot obișnuit va deveni peste noapte periculos. Problema privește sistemele foarte puternice, conectate la alte programe, baze de date sau infrastructură. De aceea, companiile trebuie să testeze dacă un model poate manipula, ataca un sistem informatic sau evita oprirea lui.
Inteligența artificială în războiul din Ucraina
Războiul din Ucraina arată că un avantaj tehnologic, chiar mic, poate conta semnificativ. Rusia și Ucraina folosesc drone tot mai rapide și mai autonome. Dronele rusești sunt folosite pentru atacuri asupra infrastructurii civile, iar ambele tabere dezvoltă sisteme care pot lucra în grup, schimbând informații între ele.
Acesta este motivul pentru care administrația americană nu vrea ca SUA să piardă cursa AI în fața Chinei. O pauză globală în dezvoltarea inteligenței artificiale ar funcționa numai dacă toate marile puteri ar aplica-o împreună. Verificarea este dificilă: un centru de date care antrenează un sistem foarte puternic poate arăta, din exterior, ca unul care găzduiește simple servicii online.
Reguli clare, fără a opri tehnologia utilă
Nu există încă un acord global care să rezolve problema. Între timp, companii precum OpenAI sau Anthropic pot raporta incidentele periculoase, pot proteja mai bine sistemele împotriva atacurilor informatice și pot fi culpabile financiar când neglijențele lor produc pagube.
În ceea ce vă privește, vă recomandăm să aplicați aceste reguli simple: pe cât posibil, nu oferiți unui instrument de inteligență artificială parole, detalii ale codurilor bancare, copii ale actelor de identitate sau informații foarte personale. Citiți și despre riscul ca AI să scape de sub controlul uman.