Foto: Jonathan Raa/NurPhoto via Getty Images)
Însă poveștile nu imită doar o realitate preexistentă. Ele generează, de asemenea, noi realități prin exprimarea a ceea ce este posibil. De exemplu, cuvintele revoluționare de deschidere ale Declarației de Independență a Statelor Unite („Considerăm aceste adevăruri ca fiind evidente de la sine”) au acordat un loc de cinste libertății individuale, indiferent de clasă socială, de proprietate sau de convingeri religioase sau politice. Prin acest mit, Părinții Fondatori au pus bazele unui mod de guvernare conceput în spiritul libertății și al egalității.
Modelele de IA de ultimă generație întruchipează ambele tipuri de narațiune. Pe de o parte, ele imită gândirea umană din trecut, răspunzând la solicitările utilizatorilor prin căutarea de tipare relevante în vasta bază de date cu material arhivat anterior, pe baza căreia au fost antrenate.
Dar ele creează, de asemenea, o nouă realitate. Fondatorii Anthropic și OpenAI par să împărtășească aceeași viziune privind sosirea iminentă a unui zeu al IA atotputernic, care ne va conduce către o utopie transumană. Cu toate acestea, există motive întemeiate să ne întrebăm dacă acest mit nu este decât un pretext pentru a justifica goana după dominarea pieței, bogăție și putere.
O lecție de morală pentru IA
Unele personalități, precum Christopher Olah, cofondatorul Anthropic, încearcă acum să ofere un curs intensiv de morală modelelor companiei. Dar este puțin cam târziu pentru asta. Dacă Anthropic ar fi căutat sincer să alinieze comportamentul lui Claude la binele umanității, ar fi instruit mai întâi inginerii săi în căile înțelepciunii și ale bunătății.
În schimb, Claude a fost antrenat să ofere un serviciu: să furnizeze informații, să rezolve probleme și să îndeplinească sarcini utile în mod autonom. IA este vândută ca un instrument de generare a profitului, ca o sursă de muncă cognitivă ieftină și hiper-eficientă. Orice moralitate introdusă după fapt nu este decât o fațadă – o glosă peste rațiunea de a fi economică care stă la bază și o mângâiere pentru un public din ce în ce mai îngrijorat de această tehnologie.
Realitatea pe care o creează în cele din urmă un mit depinde de contextul cultural în care acesta funcționează. Dacă o cultură promovează IA ca pe o mană cerească superinteligentă și binefăcătoare, pericolele asociate cu crearea ei (cum ar fi agenții IA care nu acționează în interesul nostru) devin mai probabile. Dar dacă o cultură se opune aroganței neîngrădite și insistă asupra unei contra-narațiuni a cooperării sociale, este mai probabil să genereze un control asupra orgoliului și asupra pericolelor pe care acesta le poate crea.
Astfel de preocupări au rădăcini adânci în imaginația occidentală. Filosoful presocratic Heraclit a scris: „Soarele nu-și va depăși măsurile; dacă o va face, Eriniile, slujitoarele Justiției, îl vor descoperi.” Acestea sunt aceleași Erinii (sau Furii) care îl urmăresc pe Oreste pentru uciderea lui Clitemnestra în piesa „Eumenidele” a lui Eschil. Oreste și-a ucis mama pentru a-și răzbuna tatăl, marele general aheu Agamemnon, pe care Clitemnestra l-a ucis pentru că a sacrificat-o pe fiica lor, Ifigenia. Viața tinerei a fost prețul pe care profeții au spus că trebuie plătit pentru a avea vânt favorabil care să lanseze flota aheilor împotriva Troiei. Așa se întâmplă, din generație în generație.
Este prea devreme să știm ce limită morală, dacă există vreuna, va imita sau va întruchipa „Mythos” al Anthropic. Istoria sugerează că ar trebui să fim precauți. A fost nevoie de conștientizarea iraționalității umane, a nebuniei „distrugerii reciproce asigurate”, pentru a duce la acorduri internaționale care să interzică proliferarea nucleară în secolul al XX-lea. Cooperarea socială a triumfat în fața unei căutări iraționale a puterii și a dominației.
Amenințările reprezentate de IA sunt reale și comparabile cu amenințarea nucleară
Natura umană nu s-a schimbat, dar amenințările cu care ne confruntăm s-au schimbat. Știm că pericolele asociate cu IA scăpată de sub control sunt reale, pentru că le-am văzut deja. Din fericire, atacul cibernetic spontan asupra Hugging Face, comis de agenții OpenAI, a provocat pagube minime. Însă, de atunci, au ieșit la iveală episoade similare, iar experții ne avertizează că s-ar putea să nu mai avem același noroc în viitor. De la agenți IA care preiau controlul neautorizat asupra infrastructurii critice până la îndeplinirea dorințelor grupurilor teroriste sau proiectarea de agenți patogeni noi, nicio amenințare nu poate fi exclusă.
Așa cum ne reamintește jurista Antara Haldar, cooperarea socială și conservarea bunurilor comune au constituit întotdeauna un bastion împotriva efectelor dezastruoase ale aroganței, lăcomiei și dorinței de putere ale omului. Deși această narațiune fundamentală a fost eclipsată de povestea economiei clasice despre „omul rațional” interesat doar de sine, ea nu a dispărut. Poveștile care imită faptele de sacrificiu și de datorie din trecut, în numele grupului, persistă, la fel ca și cei care își imaginează noi posibilități morale pentru viitor.
De exemplu, susținătorii cooperării sociale de astăzi ne-ar putea atrage atenția asupra curajului și perspicacității diplomatice necesare pentru a preveni Armaghedonul nuclear după cel de-al Doilea Război Mondial. Ce ar fi nevoie pentru a gestiona amenințarea reprezentată de IA? Ne putem imagina o coordonare globală între comisii independente de anchetă, calificate și echipate pentru a obține cunoștințe de primă mână despre pericolele pe care le prezintă anumite modele. Monitorizarea universală ar putea fi apoi completată cu măsuri de protecție recunoscute la nivel internațional – standarde minime obligatorii de siguranță – capabile să prevină amenințările înainte ca acestea să apară și să le gestioneze eficient atunci când apar.
Miturile (sau poveștile fundamentale) pe care ni le spunem ne vor determina, în cele din urmă, soarta. Acestea nu trebuie să provină doar de la liderii industriei, al căror interes constă în a ne încânta cu viziuni despre noi orizonturi științifice și tehnologice. Prudența, însoțită de o contra-narațiune care să pună accentul pe cooperarea socială, ar putea fi tot ceea ce ne poate menține pe calea supraviețuirii și a prosperității reciproce.
Richard K. Sherwin,
profesor emerit de drept la New York Law School, este coeditor (împreună cu Danielle Celermajer) al lucrării *A Cultural History of Law in the Modern Age* (Bloomsbury, 2021).
© Project Syndicate, 2026.
www.project-syndicate.org
Acest material a fost tradus cu ajutorul inteligenței artificiale.Traducerea a fost revizuită și de redacția Logos Press.
Comentarii
0Încă nu sunt comentarii. Poți începe conversația.
Comentariile sunt deschise cititorilor cu un cont Logos Press.
Autentifică-te pentru a comenta