Мировые регуляторы заявили, что все более автономные формы искусственного интеллекта могут усилить риски для финансовой системы, и призвали к введению новых мер контроля по мере ускорения его внедрения.
Совет по финансовой стабильности (FSB) в своем отчете, опубликованном в среду, настоятельно призвал советы директоров рассмотреть возможность внедрения мер защиты для снижения рисков, связанных с искусственным интеллектом, в том числе с «агентным» ИИ — или системами, способными планировать, рассуждать и выполнять задачи с ограниченным участием человека, сообщает Reuters.
ФСБ, организация, устанавливающая глобальные стандарты, заявила, что автономный ИИ создает риски, которые могут «реализоваться с большой скоростью», включая возможность несанкционированных или незаконных действий, утечки данных и сбои в работе подключенных систем.
«Искусственный интеллект представляет собой серьезную проблему для человеческого контроля», — говорится в отчете, предупреждая, что агенты могут совершать действия, отклоняющиеся от намерений компаний, без ведома персонала или возможности быстро вмешаться.
Для решения этих проблем разработчик стандартов представил ряд предлагаемых «передовых практик», призывая финансовые компании установить четкие границы использования ИИ и внедрить меры защиты. Эти необязательные к исполнению рекомендации открыты для отзывов до 22 июля.
ИИ в финансах
Финансовые компании уже используют агентный ИИ для выявления мошенничества, обслуживания клиентов и выполнения внутренних операционных функций. Они также включают ограничения на действия агентов ИИ и требуют одобрения человека для действий с высоким риском, таких как финансовые транзакции, превышающие определенные пороговые значения.
Банки перестали внедрять нейросети как дань моде и теперь требуют от них чёткой финансовой отдачи. Зачастую затраты на интеграцию ИИ не оправдывают себя, приводя к финансовым искажениям и ошибочным прогнозам.
Почти 52% респондентов из финансового сектора, принявших участие в опросе Кембриджского центра альтернативного финансирования, сообщили об активном внедрении агентских моделей, при этом 23% из них масштабируют или трансформируют их, а 29% проводят пилотные проекты по внедрению агентских функций.
Компании также могут рассмотреть возможность адаптации механизмов и процессов управления персоналом к агентам искусственного интеллекта таким образом, чтобы они рассматривались как «синтетические сотрудники», заявили в ФСБ.
