Inteligența artificială în cercetare: cine răspunde pentru descoperiri?

Știință fără oameni de știință?

PARIS — Având în vedere capacitățile actuale ale IA, mai contează cine desfășoară cercetarea științifică? Răspunsul intuitiv este că un fapt rămâne un fapt, indiferent de cine îl descoperă.

Adaugă Logos Press ca sursă preferată pe Google

Dar cunoașterea nu se diseminează niciodată în acest fel. Primim majoritatea afirmațiilor științifice fără a avea mijloace de a le verifica noi înșine, așa că tindem să judecăm nu afirmația în sine, ci credibilitatea celui care se află în spatele ei. Așa cum arată istoricul științei de la Harvard, Steven Shapin, producerea adevărului științific a fost mult timp inseparabilă de efortul social de a-i convinge pe colegi.

Propria mea cercetare privind mobilitatea științifică, realizată acum un sfert de secol, indica aceeași direcție dintr-un unghi diferit. Reputația în știință nu rezidă doar în idei; ea se concentrează într-un număr redus de centre instituționale: departamente și laboratoare a căror reputație conferă greutate oricărui rezultat care provine din ele. Un om de știință care părăsește un centru de vârf ia cu sine o parte din credibilitatea acestuia și poate, în condițiile potrivite, transforma instituția gazdă într-un centru de greutate în sine.

Credibilitatea a avut întotdeauna nevoie de un purtător, iar identitatea acestui purtător s-a schimbat de-a lungul timpului, adesea în fața unei rezistențe acerbe. Când autoritatea asupra ordinii naturale a trecut de la Dumnezeu la un domeniu deschis cercetării umane, rezistența a fost violentă. Când savantul individual a cedat locul instituțiilor acreditate, evaluării inter pares și evaluărilor de cercetare, unii critici au obiectat că știința devenise excesiv de birocratică și impersonală. Iar acum, când autoritatea este pe cale să treacă de la oameni la mașini, obiecția se formulează în termeni de atribuire, originalitate și merit.

Este rezultatul dincolo de înțelegerea noastră?

În toate aceste cazuri, ceea ce ni se cere să credem s-a schimbat. Iar acum sistemul care guvernează cercetarea, de la finanțarea orientată spre misiune până la evaluările de impact, și-a mutat treptat atenția de la întrebarea dacă un rezultat este înțeles la cea dacă funcționează, iar descoperirile generate de mașini se potrivesc unei întreprinderi care deja valorizează rezultatul mai mult decât înțelegerea.

Ironia este că două decenii de eforturi pentru a face datele deschise, căutabile și lizibile de mașini ar fi trebuit să faciliteze colaborarea dintre cercetătorii umani; dar au creat, de asemenea, chiar substratul pe care se desfășoară acum cercetarea autonomă. AlphaFold, care le-a adus lui Demis Hassabis și John Jumper o parte din Premiul Nobel pentru Chimie din 2024, a fost antrenat pe baza Protein Data Bank, munca acumulată a unei întregi comunități de biologi structurali.

Sistemele care generează și testează propriile ipoteze, pentru a redacta apoi rezultatele, nu mai sunt doar un experiment mental. Anul trecut, un articol scris în întregime de Zochi, un sistem de IA creat de start-up-ul american Intology, a trecut de procesul de evaluare inter pares în cadrul secțiunii principale a Reuniunii Anuale a Asociației pentru Lingvistică Computațională, o conferință de vârf în domeniul IA. Iar Robin, un sistem de IA creat de organizația non-profit FutureHouse din San Francisco, a propus ipotezele, a conceput experimentele și a analizat rezultatele care au identificat un medicament deja aprobat ca fiind un candidat pentru tratarea unei cauze principale de orbire; lucrarea sa a fost publicată ulterior în revista *Nature*.

Să presupunem că un astfel de sistem oferă un nou vaccin, un catalizator sau o compoziție chimică pentru baterii, fără un autor uman identificabil. Este puțin probabil ca publicul să fie interesat de cine a realizat acest lucru, la fel cum pacienții nu întreabă care tehnician le-a efectuat analiza de sânge. Ceea ce îi va interesa este pe cine să considere responsabil dacă ceva nu merge bine.

Cine va fi tras la răspundere pentru erorile IA?

Un autor numit poate fi interogat, corectat, obligat să-și retragă o afirmație sau discreditat; un model nu poate fi. Paternitatea umană nu a fost niciodată o garanție a fiabilității, așa cum o atestă eșecurile replicărilor și retractările. Dar ne-a oferit întotdeauna pe cineva pe care să-l considerăm responsabil pentru un rezultat. Cu câteva excepții, revistele de renume au refuzat să menționeze sistemele de IA ca autori, pe motiv că paternitatea implică atribuire și responsabilitate. Dar acest lucru nu face decât să mențină vechea ordine a lucrurilor, în loc să rezolve noua problemă.

Un sondaj recent a arătat că aproape jumătate dintre oamenii de știință (47%) folosesc IA zilnic, iar alți 31% o folosesc săptămânal. Cu cât aceste sisteme devin mai performante, cu atât vor fi utilizate pe scară mai largă. Deoarece majoritatea oamenilor nu vor putea distinge știința bună de cea proastă, omul de știință va deveni din ce în ce mai mult validatorul, sursa de încredere de care are nevoie cunoașterea împărtășită.

Însă procesul de validare se străduiește deja să țină pasul. Aproape jumătate dintre oamenii de știință care declară că economisesc timp cu ajutorul IA petrec apoi mai mult de un sfert din acel timp verificând rezultatele acesteia, în timp ce numărul ipotezelor netestate acumulate crește. Mai mult, chiar și procesul de evaluare inter pares este automatizat, o analiză a lucrărilor trimise la Conferința Internațională privind Reprezentările de Învățare din acest an sugerând că aproximativ una din cinci recenzii a fost generată în întregime de IA.

Fără autoritate, nu există încredere

Astfel de constatări pun sub semnul întrebării capacitatea oamenilor de a se pronunța asupra științei produse exclusiv de IA. Dar cine va deveni, atunci, partea de încredere? O posibilitate este ca încrederea să se atașeze de locul în care a fost dezvoltată tehnologia, companiile de pionierat în domeniul IA devenind arbitrii de facto ai ceea ce se consideră știință solidă – la fel cum erau firmele farmaceutice înainte de apariția autorităților de reglementare independente care să le verifice afirmațiile.

O altă posibilitate este ca instituțiile care și-au construit credibilitatea de-a lungul generațiilor – universități, academii, laboratoare naționale, reviste științifice – să dezvolte sau să certifice proprii agenți științifici de IA, astfel încât încrederea să continue să curgă prin canalele pe care publicul are deja motive să le considere responsabile. Constatările lui Robin și-au dobândit credibilitatea nu din anunțul propriu al FutureHouse, ci din procesul de evaluare inter pares din revista Nature.

Cu toate acestea, acest rol va trebui câștigat, și asta rapid. Revistele academice se confruntă deja cu „fabricile de articole”, cu lucrări generate automat și cu un sistem de evaluare inter pares suprasolicitat. Institutele Naționale de Sănătate din SUA acceptă acum cel mult șase cereri pe an de la orice cercetător principal și nu vor considera cererile dezvoltate în mod substanțial de IA ca fiind idei originale ale solicitanților.

Rezultatul va fi determinat de cine va face primul pas în construirea infrastructurii de responsabilitate: înregistrări inviolabile ale fiecărui set de date, versiune de model și etapă de inferență din spatele fiecărui rezultat; sisteme independente însărcinate cu reproducerea rezultatelor fără a face referire la cel care le-a produs; și, la capătul lanțului, un garant desemnat, fie că este o persoană sau o instituție, care să răspundă în cazul în care rezultatul eșuează.

Instanțele au tras deja această linie în alte contexte. Curtea Supremă a Marii Britanii a hotărât că doar o persoană fizică poate fi desemnată ca inventator pe un brevet, iar o curte de apel din SUA a stabilit că dreptul de autor necesită un autor uman. O astfel de reglementare ar semăna mult mai mult cu modul în care certificăm aeronavele sau aprobăm medicamentele decât cu modul în care universitățile acordă titularizarea.

Fiecare generație a trebuit să decidă cine deține credibilitatea științifică, iar generația noastră trebuie să analizeze din nou această chestiune.