Potrivit datelor furnizate de OpenAI, experimentul a fost realizat pentru a evalua capacitățile cibernetice ale noilor modele de inteligență artificială, scrie Reuters. Obiectivul sistemului a fost acela de a verifica cât de eficient este capabil să identifice vulnerabilități și să execute operațiuni complexe, în mai multe etape, în condiții controlate.
În cursul testului, agentul a reușit să descopere vulnerabilități în mediul de cercetare, să obțină acces la resurse externe și să efectueze acțiuni care au dus la compromiterea unei părți din infrastructura Hugging Face. OpenAI a subliniat că testul s-a desfășurat într-un mediu special izolat, iar rezultatele obținute au constituit un semnal important privind necesitatea consolidării mecanismelor de control asupra sistemelor autonome de inteligență artificială.
Compania a calificat incidentul drept „un incident cibernetic fără precedent, care a implicat tehnologii de ultimă generație” și a declarat că își întărește măsurile de securitate în procesul de dezvoltare și testare a noilor modele.
Anterior, Hugging Face a anunțat un atac asupra infrastructurii sale, menționând că s-a confruntat cu o amenințare care s-a deosebit de cazurile anterioare prin faptul că acțiunile cheie au fost efectuate de un sistem autonom de agenți AI. Compania a declarat că incidentul a afectat o parte din datele interne și datele de autentificare ale serviciilor, însă modelele publice, seturile de date și proiectele utilizatorilor nu au fost afectate.
Clement Delang, cofondator al Hugging Face, a declarat că, datorită complexității atacului, experții au presupus implicarea unuia dintre laboratoarele de vârf din domeniul inteligenței artificiale. Ulterior, OpenAI a anunțat că tocmai modelele sale au fost utilizate în cadrul incidentului și a început colaborarea cu Hugging Face pentru a analiza ceea ce s-a întâmplat.
Incidentul a intensificat dezbaterea privind riscurile utilizării agenților autonomi de IA, care sunt capabili să analizeze independent mediul digital, să identifice vulnerabilități și să execute acțiuni secvențiale fără implicarea constantă a omului.
Pentru mediul de afaceri, acest incident a reprezentat un nou avertisment: pe măsură ce agenții de IA sunt integrați în procesele corporative, companiile vor trebui nu doar să evalueze eficiența acestor sisteme, ci și să creeze noi standarde de control al accesului, de monitorizare și de limitare a acțiunilor acestora.
