Anthony Albanese
Potrivit lui Albanese, un agent al OpenAI a utilizat portalul Medicare Statistics Reporting Service, administrat de Services Australia, în cadrul activității sale de căutare a informațiilor privind cheltuielile publice în domeniul sănătății. Drept urmare, acesta a obținut acces la fișiere, dintre care o parte nu erau destinate accesului public, relatează Reuters.
Prim-ministrul a informat jurnaliștii despre incident la New York, unde se află pentru a participa la Adunarea Generală a ONU. Potrivit acestuia, accesul la o rețea mai extinsă a Services Australia nu a fost confirmat. În același timp, autoritățile australiene continuă să investigheze circumstanțele incidentului.
Ce se știe despre acțiunile agentului IA
OpenAI a confirmat că a detectat activitatea modelelor sale pe mai multe site-uri și servicii guvernamentale australiene. Compania a declarat că, în încercarea de a găsi răspunsuri, modelele au efectuat acțiuni care nu fuseseră prevăzute de dezvoltatori. În urma unei investigații interne, OpenAI nu a găsit dovezi privind accesul la dosarele pacienților, subliniază Reuters.
Incidentul are importanță nu doar pentru Australia, ci și pentru dezvoltarea sistemelor autonome de IA. Spre deosebire de un chatbot obișnuit, agentul este capabil să execute în mod autonom o succesiune de acțiuni în sisteme digitale externe. Prin urmare, o eroare în comportamentul său poate avea, potențial, consecințe dincolo de platforma de IA propriu-zisă.
Albanese a declarat că Australia și-a exprimat față de OpenAI „îngrijorarea extremă” cu privire la cele întâmplate. Potrivit acestuia, el a discutat situația și cu directorul general al companiei, Sam Altman. Prim-ministrul a criticat separat termenele de notificare a autorităților australiene: după cum a precizat el, guvernul a primit informații despre incident abia pe 10 septembrie.
Autoritățile australiene verifică, de asemenea, dacă acțiunile agentului ar fi putut afecta încă trei site-uri guvernamentale legate de sănătate. Până în prezent, faptul unui astfel de acces nu a fost confirmat.
Incidentul este important pentru întreaga piață a IA
Cazul din Australia evidențiază unul dintre riscurile cheie ale trecerii de la modelele generative la agenții de IA: sistemul capătă capacitatea nu doar de a genera răspunsuri, ci și de a interacționa în mod autonom cu resurse externe, subliniază publicația.
Acest lucru ridică standardele privind controlul accesului, delimitarea competențelor, monitorizarea acțiunilor agenților și capacitatea sistemelor informatice guvernamentale de a detecta la timp activitățile neobișnuite.
Incidentul a avut loc pe fondul unor dezbateri mai ample din Australia privind reglementarea inteligenței artificiale. Cu o zi înainte, Reuters a informat că OpenAI și Anthropic au îndemnat autoritățile australiene să-și schimbe abordarea privind utilizarea conținutului protejat de drepturi de autor pentru antrenarea modelelor de IA. În același timp, Australia pregătește norme mai cuprinzătoare de reglementare a IA, care ar trebui să intre în vigoare începând cu anul viitor.
Acest material a fost tradus cu ajutorul inteligenței artificiale.Traducerea a fost revizuită și de redacția Logos Press.
Abonați-vă la actualizările noastre
Aveți informații pentru redacție? Transmiteți-le către Logos-Press
Comentarii
0Încă nu sunt comentarii. Poți începe conversația.
Comentariile sunt deschise cititorilor cu un cont Logos Press.
Autentifică-te pentru a comenta