По данным OpenAI, эксперимент проводился для оценки кибервозможностей новых моделей искусственного интеллекта, пишет Reuters. Задачей системы было проверить, насколько эффективно она способна находить уязвимости и выполнять сложные многоэтапные операции в контролируемых условиях.
В ходе теста агент смог обнаружить уязвимости в исследовательской среде, получить доступ к внешним ресурсам и выполнить действия, которые привели к компрометации части инфраструктуры Hugging Face. OpenAI подчеркнула, что проверка проходила в специально изолированной среде, а полученные результаты стали важным сигналом о необходимости усиления механизмов контроля за автономными ИИ-системами.
Компания назвала произошедшее «беспрецедентным киберинцидентом с использованием передовых технологий» и заявила, что усиливает меры безопасности при разработке и тестировании новых моделей.
Ранее Hugging Face сообщила об атаке на свою инфраструктуру, отметив, что столкнулась с угрозой, которая отличалась от предыдущих случаев тем, что ключевые действия выполнялись автономной системой ИИ-агентов. Компания заявила, что инцидент затронул часть внутренних данных и учетных данных сервисов, однако публичные модели, наборы данных и пользовательские проекты не пострадали.
Сооснователь Hugging Face Клемент Деланг заявил, что из-за сложности атаки специалисты предполагали участие одной из ведущих лабораторий искусственного интеллекта. Позднее OpenAI сообщила, что именно ее модели использовались в ходе инцидента, и начала взаимодействие с Hugging Face для анализа произошедшего.
Случай усилил дискуссию о рисках использования автономных ИИ-агентов, которые способны самостоятельно анализировать цифровую среду, находить уязвимости и выполнять последовательные действия без постоянного участия человека.
Для бизнеса этот инцидент стал очередным предупреждением: по мере внедрения ИИ-агентов в корпоративные процессы компаниям потребуется не только оценивать эффективность таких систем, но и создавать новые стандарты контроля доступа, мониторинга и ограничения их действий.
