În centrul acestei competiții se află două concepții opuse privind modul în care ar trebui dezvoltată și implementată inteligența artificială. În timp ce firmele americane utilizează în principal tehnologii proprii, brevetate, pentru a-și menține avantajul competitiv, China implementează activ IA cu cod sursă deschis, punând la dispoziția dezvoltatorilor din întreaga lume modele de ultimă generație.
Însă, indiferent de diferențele de strategie, ambele țări sunt complet absorbite de această cursă și niciuna nu este dispusă să-i încetinească ritmul. Viteza a devenit prioritatea absolută, iar securitatea este tot mai des lăsată pe plan secund, în ciuda riscului extrem de ridicat de eșec catastrofal care ar putea rezulta din combinarea erorii umane cu o IA prea inteligentă.
Recentul atac cibernetic care a afectat companiile OpenAI și Hugging Face a evidențiat cât de periculoase sunt abordările în care siguranța este considerată un aspect secundar. Incidentul a avut loc în timp ce cercetătorii de la OpenAI evaluau potențialul a două modele avansate de IA în domeniul securității cibernetice. Pentru a descoperi punctele slabe și vulnerabilitățile de care ar putea profita hackerii experimentați, aceștia au dezactivat temporar multe dintre mecanismele obișnuite de protecție din aceste modele de IA.
Experimentul a fost desfășurat în cadrul unui „sandbox” strict controlat. Deși restricțiile impuse modelelor au fost dezactivate temporar, sandbox-ul trebuia să excludă posibilitatea ca acestea să aibă acces la internetul deschis, unde ar fi putut (cel puțin teoretic) să provoace pagube enorme.
În schimb, modelele au considerat că „sandbox-ul” era doar unul dintre obstacole. Profitând de o vulnerabilitate necunoscută până atunci într-un software terț, au ocolit restricțiile și au obținut acces la internetul deschis. Au „scăpat de sub control”? Nu chiar. La urma urmei, ele nu au făcut decât să îndeplinească sarcina care le-a fost încredințată: să rezolve cât mai eficient o problemă complexă de securitate cibernetică.
Probabil că aceste modele și-ar fi putut îndeplini sarcina fără a ieși din „sandbox”-ul închis, dar au „ajuns la concluzia” că le este mult mai ușor să spargă platforma Hugging Face (unde sunt găzduite peste două milioane de modele de IA cu cod sursă deschis) și, așa cum s-a spus la OpenAI, „să obțină soluții la problemă direct din baza de date Hugging Face”.
Pentru IA cu abilități avansate de hacking, spargerea unui alt sistem s-a dovedit a fi o joacă de copii. Mai mult, această breșă a trecut neobservată câteva zile și, se pare, s-a extins la încă o companie.
Din punctul de vedere al modelelor, toate acestea nu au constituit o „înșelăciune”, deoarece ele nu au încălcat nicio regulă directă stabilită de dezvoltatori. Pur și simplu, au găsit o modalitate mai eficientă de a-și atinge obiectivul.
Probabil că cel mai îngrijorător aspect este faptul că, potrivit rapoartelor, unul dintre modele a lăsat în urmă note care explică modul în care viitoarele sisteme de IA ar putea evada din „sandbox-ul” OpenAI cu mai multă ușurință.
Specialiștii în IA vor sublinia, pe bună dreptate, că acest experiment nu este reprezentativ. Restricțiile de protecție din modele au fost slăbite pentru a testa întregul spectru al capacităților lor. În plus, acestea nu au provocat niciun prejudiciu grav. De exemplu, nu au spart sistemele Rezervei Federale a SUA sau ale Băncii Centrale Europene.
Cu toate acestea, acest episod a arătat cum IA poate amplifica o greșeală umană aparent minoră, cu consecințe potențial catastrofale.
Acest incident seamănă în mod îngrijorător cu teoria larg discutată (dar încă nedovedită) privind scurgerea Covid-19 dintr-un laborator, conform căreia virusul a scăpat dintr-un laborator din Wuhan (China), unde oamenii de știință ar fi efectuat experimente riscante de „potențare a funcțiilor” virusurilor. În ambele cazuri, principalii vinovați se dovedesc a fi erorile umane și încrederea excesivă în sine, și nu intențiile răuvoitoare. Istoria cunoaște numeroase exemple similare și instructive.
Codurile sursă deschise agravează problema
Răspândirea modelelor de IA cu cod sursă deschis agravează problema. Instrumentele avansate de IA nu mai sunt disponibile doar într-o mână de laboratoare de vârf, așa că este doar o chestiune de timp până când țările paria și grupările teroriste vor încerca să le folosească pentru a crea arme biologice, noi toxine sau „bombe murdare”.
Ar fi o naivitate periculoasă să se creadă (și, se pare, exact asta cred mulți politicieni americani) că astfel de capacități există doar în Silicon Valley.
Totuși, cel mai actual pericol este, probabil, cel politic, și nu cel tehnologic.
IA le permite deja celor rău intenționați să creeze „deepfakes” convingătoare și să desfășoare campanii de manipulare a alegătorilor la o scară fără precedent. Dacă nu se iau măsuri, aceste instrumente vor submina și mai mult încrederea în societate, vor accentua polarizarea politică și vor accelera fragmentarea socială.
Dezvoltarea rapidă a IA poate deschide, de asemenea, calea către autoritarism, întrucât perioadele de instabilitate socială oferă adesea autorităților posibilitatea de a-și extinde competențele sub pretextul restabilirii ordinii, al combaterii inegalității sau al apărării securității naționale.
Sub președinția lui Donald Trump, se creează uneori impresia că SUA se îndreaptă deja în această direcție. Cu toate acestea, viitoarea administrație a Partidului Democrat s-ar putea dovedi la fel de înclinată să utilizeze IA pentru a-și atinge obiectivele politice.
Nimic din toate acestea nu diminuează potențialul incredibil al IA. Această tehnologie este capabilă să revoluționeze medicina (accelerând brusc ritmul cercetărilor privind boli precum cancerul și boala Alzheimer), să schimbe radical producția alimentară și să contribuie la combaterea schimbărilor climatice. Și aceasta este doar vârful aisbergului. Prin urmare, întrebarea nu este dacă IA ar trebui să avanseze, ci cât de repede și cu ce preț.
Reglementarea sau „rețeta dezastrului”
Aici se ascunde dilema principală. Argumentul principal al firmelor tehnologice din SUA, care se opun reglementării IA, este următorul: reglementarea va duce la cedarea poziției Americii în fața Chinei. Dar dacă China va putea să continue să copieze sau să fure toate realizările revoluționare ale SUA (așa cum a făcut-o deja de nenumărate ori), atunci goana nesfârșită după crearea unei IA puternice se va transforma într-o rețetă a dezastrului.
Mai devreme sau mai târziu, securitatea pe termen lung va necesita o anumită cooperare internațională – la fel cum controlul asupra armelor nucleare a devenit indispensabil în timpul Războiului Rece.
IA suscită îngrijorări serioase legate de ocuparea forței de muncă, inegalitate și coeziune socială, dar niciuna dintre aceste probleme nu este la fel de importantă ca securitatea. Atunci când reprezentanții industriei susțin că trebuie să evităm o reglementare strictă, deoarece aceasta va încetini inovarea sau va reduce competitivitatea Statelor Unite, ei subestimează grav riscurile implementării unor sisteme de IA extrem de complexe înainte de a învăța să le controlăm.
Da, autoritățile de reglementare vor face greșeli, iar unele reguli s-ar putea dovedi excesiv de stricte. Dar aceste greșeli pot fi corectate. În schimb, consecințele implementării pripite a uneia dintre cele mai puternice tehnologii create vreodată de omenire, fără măsuri adecvate de protecție, probabil că nu vor mai putea fi remediate.
Atacul cibernetic asupra Hugging Face ar trebui să constituie un avertisment sever pentru autoritățile de la Washington și de la Beijing. Victoria în cursa pentru IA nu va însemna mare lucru dacă, pe parcursul acestei curse, vom crea amenințări pe care nicio țară nu le va putea gestiona.
Kenneth Rogoff,
fost economist-șef al Fondului Monetar Internațional, profesor de economie și politică publică la Universitatea Harvard, laureat al Premiului Deutsche Bank din 2011 în domeniul economiei financiare, coautor (împreună cu Carmen Reinhart) al cărții „De data aceasta va fi altfel: Opt secole de imprudență financiară”(Princeton University Press, 2011) și autor al cărții„Dolarul nostru, problema voastră”(Yale University Press, 2025).
© Project Syndicate, 2026.
www.project-syndicate.org
