Энтони Албанезе
По словам Албанезе, агент OpenAI использовал портал Medicare Statistics Reporting Service, администрируемый Services Australia, в рамках работы по поиску информации о государственных расходах на медицину. В результате он получил доступ к файлам, часть которых не предназначалась для публичного доступа, сообщает Reuters.
Премьер-министр сообщил об инциденте журналистам в Нью-Йорке, где он находится для участия в Генеральной ассамблее ООН. По его словам, доступ к более широкой сети Services Australia не был подтвержден. При этом австралийские власти продолжают проверку обстоятельств произошедшего.
Что известно о действиях ИИ-агента
OpenAI подтвердила, что выявила активность своих моделей на нескольких австралийских государственных сайтах и сервисах. Компания заявила, что в ходе попыток найти ответы модели совершили действия, которые не были предусмотрены разработчиками. По результатам внутренней проверки OpenAI не обнаружила доказательств доступа к записям пациентов, подчеркивает Reuters.
Инцидент имеет значение не только для Австралии, но и для развития автономных ИИ-систем. В отличие от обычного чат-бота, агент способен самостоятельно выполнять последовательность действий во внешних цифровых системах. Поэтому ошибка в его поведении потенциально может привести к последствиям за пределами самой ИИ-платформы.
Албанезе заявил, что Австралия выразила OpenAI «крайнюю обеспокоенность» произошедшим. По его словам, он также обсудил ситуацию с генеральным директором компании Сэмом Альтманом. Премьер-министр отдельно раскритиковал сроки уведомления австралийских властей: как он сообщил, правительство получило информацию об инциденте только 10 сентября.
Австралийские власти также проверяют, могли ли действия агента затронуть еще три государственных сайта, связанных со здравоохранением. На данный момент факт такого доступа не подтвержден.
Инцидент важен для всего рынка ИИ
Случай в Австралии показывает один из ключевых рисков перехода от генеративных моделей к ИИ-агентам: система получает возможность не только формировать ответы, но и самостоятельно взаимодействовать с внешними ресурсами, подчеркивает издание.
Это повышает требования к контролю доступа, разграничению полномочий, мониторингу действий агентов и способности государственных информационных систем своевременно обнаруживать нестандартную активность.
Инцидент произошел на фоне более широких дискуссий в Австралии о регулировании искусственного интеллекта. Накануне Reuters сообщал, что OpenAI и Anthropic призвали австралийские власти изменить подход к использованию защищенного авторским правом контента для обучения ИИ-моделей. Австралия при этом готовит более широкие правила регулирования ИИ, которые должны вступить в силу со следующего года.
Подписывайтесь на наши обновления
Комментарии
0Комментариев пока нет. Вы можете начать разговор.
Комментировать могут читатели с аккаунтом Logos Press.
Войти, чтобы комментировать