Foto: Reuters
Rezultatele testelor efectuate de Reuters au pus din nou sub semnul întrebării fiabilitatea tehnologiilor existente de marcare a conținutului generat de IA, pe fondul dezvoltării rapide a modelelor generative.
Reuters a testat instrumentul Meta AI Image Detector, conceput pentru a identifica imaginile generate de inteligența artificială. În cursul experimentului, s-a constatat că serviciul recunoaște cu certitudine imaginile originale create cu ajutorul modelelor Meta, însă, după o decupare (cropping) minoră, o parte dintre fișiere nu au mai fost identificate ca fiind generate de IA.
Conform agenției, un efect similar a fost observat și în cazul unor alte modificări simple ale imaginilor, care nu afectează conținutul lor vizual. Acest lucru indică faptul că mecanismele existente de identificare a conținutului generat de IA pot fi sensibile chiar și la o prelucrare minimă a fișierelor.
Problema depășește cu mult cadrul Meta
Testul Reuters abordează una dintre problemele cheie ale economiei digitale moderne — capacitatea de a distinge în mod fiabil o imagine reală de una creată de inteligența artificială.
Pe măsură ce modelele generative se răspândesc, guvernele, companiile tehnologice și platformele media încearcă să implementeze instrumente de etichetare a conținutului generat de IA. Se presupune că astfel de soluții vor contribui la combaterea dezinformării, a deepfake-urilor și a fraudelor.
Cu toate acestea, rezultatele testelor arată că tehnologiile existente nu garantează încă o recunoaștere fiabilă. Chiar și o prelucrare minimă a imaginii poate duce la pierderea unei părți din metadatele tehnice sau a altor caracteristici utilizate de sistem pentru identificare.
Cursa dintre generare și detectare
Experții remarcă faptul că piața intră într-o nouă fază a cursei tehnologice. În timp ce dezvoltatorii perfecționează instrumentele de generare a imaginilor, se dezvoltă în paralel și piața mijloacelor de detectare a acestora. Cu toate acestea, ambele tehnologii evoluează practic simultan.
Pentru mediul de afaceri, această problemă are o importanță practică. Băncile, companiile de asigurări, instituțiile publice, mass-media și platformele digitale utilizează din ce în ce mai des sisteme automate de verificare a imaginilor în procesul de moderare a conținutului, de identificare a utilizatorilor și de combatere a fraudelor.
Dacă astfel de instrumente admit erori în urma unei editări elementare a fișierelor, companiile vor fi nevoite să utilizeze simultan mai multe niveluri de verificare, în loc să se bazeze pe un singur algoritm.
Reacția Meta
După publicarea articolului Reuters, compania Meta a declarat că instrumentele de identificare a conținutului generat de IA continuă să fie perfecționate și nu sunt infailibile. Compania a subliniat că dezvoltarea inteligenței artificiale generative necesită actualizarea constantă a metodelor de detectare, deoarece imaginile se pot modifica după creare și publicare.
Cazul Meta ilustrează o tendință mai amplă: pe măsură ce IA generativă se răspândește, sarcina de a confirma autenticitatea conținutului digital devine la fel de importantă ca și crearea modelelor în sine. Tocmai de aceea se acordă o atenție din ce în ce mai mare dezvoltării standardelor privind proveniența digitală a conținutului (content provenance), semnăturii criptografice a imaginilor și mecanismelor internaționale de marcare a materialelor generate de IA.
