Autoritățile de reglementare din întreaga lume au declarat că formele din ce în ce mai autonome de inteligență artificială pot amplifica riscurile pentru sistemul financiar și au solicitat introducerea unor noi măsuri de control pe măsură ce implementarea acesteia se accelerează.
Consiliul pentru Stabilitate Financiară (FSB) a solicitat insistent, într-un raport publicat miercuri, consiliilor de administrație să ia în considerare introducerea unor măsuri de protecție pentru a reduce riscurile asociate inteligenței artificiale, inclusiv a IA „agent” — sau sistemele capabile să planifice, să raționeze și să execute sarcini cu o implicare umană limitată, relatează Reuters.
FSB, o organizație care stabilește standarde globale, a declarat că IA autonomă creează riscuri care se pot „materializa cu mare rapiditate”, inclusiv posibilitatea unor acțiuni neautorizate sau ilegale, scurgeri de date și defecțiuni ale sistemelor conectate.
„Inteligența artificială reprezintă o problemă serioasă pentru controlul uman”, se menționează în raport, avertizând că agenții pot efectua acțiuni care se abat de la intențiile companiilor, fără știrea personalului sau fără posibilitatea de a interveni rapid.
Pentru a rezolva aceste probleme, organismul de standardizare a prezentat o serie de „bune practici” propuse, îndemnând companiile financiare să stabilească limite clare de utilizare a IA și să implementeze măsuri de protecție. Aceste recomandări neobligatorii sunt deschise pentru comentarii până pe 22 iulie.
IA în domeniul financiar
Companiile financiare utilizează deja IA agentă pentru detectarea fraudelor, serviciile de relații cu clienții și îndeplinirea funcțiilor operaționale interne. De asemenea, acestea includ restricții privind acțiunile agenților IA și necesită aprobarea umană pentru acțiuni cu risc ridicat, cum ar fi tranzacțiile financiare care depășesc anumite praguri.
Băncile au încetat să implementeze rețelele neuronale doar pentru a fi la modă și acum le solicită un randament financiar clar. Adesea, costurile integrării IA nu se justifică, ducând la distorsiuni financiare și previziuni eronate.
Aproape 52% dintre respondenții din sectorul financiar care au participat la sondajul Centrului de Finanțare Alternativă din Cambridge au raportat implementarea activă a modelelor de agenți, 23% dintre aceștia extinzându-le sau transformându-le, iar 29% derulând proiecte-pilot pentru implementarea funcțiilor de agent.
Companiile pot, de asemenea, să ia în considerare adaptarea mecanismelor și proceselor de gestionare a personalului la agenții de inteligență artificială, astfel încât aceștia să fie considerați „angajați sintetici”, au declarat reprezentanții FSB.
