Kailash Satyarthi: Lumea are nevoie de o inteligență artificială cu compasiune

Tocmai de aceea am prezentat conceptul de „IA compasională” celor peste 12 000 de delegați din 170 de țări care au participat la Summitul global „IA pentru binele comun”, desfășurat la Geneva la începutul acestei luni (Logos Press a relatat despre rezultatele summitului).

Dacă dorim cu adevărat ca IA să contribuie la binele comun, și nu doar la profit și putere, trebuie să-i scoatem pe inginerii și dezvoltatorii de IA din laboratoarele lor timp de o lună. Să-i lăsăm să facă cunoștință cu copiii care muncesc în mine și în fabrici, cu familiile forțate să-și părăsească casele din cauza conflictelor și cu comunitățile vulnerabile care suferă de sărăcie, discriminare și izolare socială. Să meargă alături de oamenii ale căror vieți sunt determinate într-o măsură mult mai mare de incertitudine, frică și nedreptate decât de orice realizări tehnologice.

Chiar și o singură lună poate schimba modul de gândire al unei persoane, iar acest lucru va influența felul în care dezvoltatorii creează această tehnologie și modelează viitorul.

IA schimbă deja fața educației, sănătății, afacerilor, administrației publice și descoperirilor științifice. Acesta promite realizări remarcabile: de la accelerarea cercetărilor medicale și îmbunătățirea calității învățământului până la dezvăluirea rețelelor de trafic de persoane, prognozarea foametei înainte ca aceasta să devină o catastrofă și intensificarea eforturilor umanitare.

Însă fiecare revoluție tehnologică ne pune în fața unei provocări morale, iar IA nu face excepție. Deoarece această tehnologie a devenit prima linie a unei concurențe globale acerbe pentru puterea economică și geopolitică, aici viteza este răsplătită, amploarea este glorificată, iar dominarea pieței este prețuită mai presus de orice.

Baza inovațiilor responsabile

În aceste condiții, riscăm să uităm de cea mai importantă întrebare: cui, în ultimă instanță, ar trebui să servească această inteligență? Cea mai mare problemă a IA astăzi nu ține de aspectele tehnice, ci de leadership.

Desigur, o mare parte a discuțiilor din cadrul forurilor globale se concentrează deja pe concepte precum „IA etică” și „IA responsabilă”, iar acestea sunt într-adevăr indispensabile. Avem nevoie de o guvernanță mai strictă, de o responsabilitate reală și de o reglementare eficientă.

Dar aceste măsuri de siguranță nu sunt suficiente. Etica ne poate indica ce este corect, iar legile pot stabili limite; totuși, nici una, nici alta nu va schimba, de una singură, viziunea asupra lumii a celor care concep și dezvoltă tehnologiile care vor influența viețile a miliarde de oameni. Pentru aceasta este nevoie de ceva mai profund, și anume compasiunea.

Compasiunea este adesea confundată cu empatia, bunătatea sau caritatea. Dar nu este sinonim cu niciunul dintre aceste concepte și nici nu se reduce pur și simplu la o emoție sau la un ideal moral abstract. Compasiunea începe cu recunoașterea suferinței altuia ca fiind a noastră, ceea ce ne determină să întreprindem acțiuni pentru a ușura această suferință. Ea implică curajul de a acționa înainte ca un rău suplimentar să fie provocat. Ea ne conduce nu doar către optimizarea sistemelor, ci și către apărarea demnității umane.

Compasiunea nu este deloc un obstacol în calea progresului tehnologic, ci fundamentul inovațiilor responsabile. IA bazată pe compasiune se deosebește de toate celelalte abordări prin faptul că nu pornește de la tehnologie, ci de la umanitate.

Înainte de a întreba de ce este capabil un sistem, IA bazată pe compasiune pune întrebarea: cui servește acest sistem? Înainte de a urmări o eficiență mai mare, ea ia în considerare consecințele pentru oameni. Înainte de a lăuda inovațiile, el se întreabă: cine ar putea fi lăsat pe dinafară?

Această singură schimbare de perspectivă schimbă totul. Multe dintre eșecurile actuale ale IA — prejudecățile, discriminarea, izolarea, dezinformarea, daunele aduse mediului, amenințările la adresa bunăstării copiilor — sunt adesea descrise ca efecte secundare neplăcute ale progresului.

Dar acestea nu sunt doar efecte secundare. Sunt dovada faptului că, în dezvoltarea acestor sisteme, cineva a fost omis, ne luat în considerare sau ignorat.

Drepturile omului trebuie să constituie pilonul fundamental al arhitecturii IA

Tehnologiile nu sunt neutre, la fel ca și algoritmii. Fiecare sistem poartă în sine presupunerile, prioritățile și valorile oamenilor care l-au creat. Deoarece IA a fost antrenată pe baza cunoștințelor acumulate de umanitate, ea a asimilat prejudecățile, inegalitățile și nedreptățile istorice acumulate de umanitate.

Drepturile omului nu pot fi doar o vopsea aplicată după finalizarea construcției. Ele trebuie să constituie pilonul de susținere al întregii structuri. Suntem siguri că podul a fost asigurat din punct de vedere al siguranței înainte ca cineva să treacă peste el, deoarece siguranța este esențială pentru scopul său.

Este evident că aceleași standarde trebuie aplicate și în cazul IA. Compasiunea nu poate fi adăugată retroactiv, după implementare. Ea trebuie să stea la baza proiectării sistemului.

Schimbarea traiectoriei de dezvoltare a acestei tehnologii este o sarcină urgentă. Copiii care cresc astăzi pot petrece mai mult timp interacționând cu mașini inteligente decât cu părinții, profesorii sau vecinii. Înțelegem deja unele consecințe psihologice negative ale rețelelor sociale, care funcționează pe baza unor forme relativ simple de IA. Impactul sistemelor mult mai performante asupra dezvoltării emoționale a copiilor, asupra relațiilor lor, a imaginației și a bunăstării psihice rămâne, deocamdată, în mare măsură necunoscut, dar ar putea fi unul profund.

În loc să ne concentrăm în primul rând asupra modului în care IA poate transforma economia, ar trebui să ne întrebăm: ce se va întâmpla dacă algoritmii vor înlocui capacitatea umană unică de a empatiza cu durerea altora? Vor putea acestea să apere dreptatea, dacă nu au fost niciodată concepute pentru a recunoaște suferința? Vor putea ele să consolideze pacea, dacă singura lor misiune este optimizarea implicării, a eficienței și a profitului?

Aceste întrebări de natură morală trebuie să prevaleze asupra celor tehnice, deoarece tocmai ele pot determina viitorul umanității.

Fără îndoială, IA poate deveni unul dintre cei mai mari aliați ai umanității. Poate contribui la eradicarea sclaviei moderne și a traficului de persoane, la identificarea cazurilor de abuz sexual asupra copiilor, la extinderea accesului la educație de înaltă calitate în limba maternă a fiecărui copil, la îmbunătățirea asistenței medicale în comunitățile cu acces insuficient la servicii, să prevadă crize umanitare și să accelereze progresul în atingerea Obiectivelor de Dezvoltare Durabilă.

Dar IA nu va alege acest viitor. Noi o vom face. Principiile pe care le stabilim astăzi vor constitui fundamentul pentru sistemele din ce în ce mai puternice pe care le creăm. Odată ce această bază se va consolida sub forma unor standarde, instituții și modele de afaceri, ea va determina relația umanității cu mașinile inteligente pe parcursul multor generații.

Nu ne putem permite să așteptăm până când răul provocat va deveni ireversibil. Legislația a fost adesea adoptată abia după ce suferințele au devenit realitate; însă, în cazul IA, nu ne mai putem permite o atitudine pasivă.

Epoca inteligenței cere înțelepciune. Istoria nu ne va judeca după cât de inteligente au devenit mașinile noastre. Ne va judeca după faptul dacă am avut suficientă clarviziune și curaj pentru a ne asigura că această inteligență rămâne în slujba umanității.

Кайлаш Сатьярти