Среди подписантов — разработчики ведущих ИИ-систем OpenAI, Anthropic, Google и Microsoft, а также Amazon Web Services, IBM, Oracle, Adobe и AMD, сообщает TechCrunch. Документ поддержали и крупные игроки рынка кибербезопасности, включая Cloudflare, CrowdStrike, Fortinet и другие компании. В числе финансовых организаций — Capital One, Citi, Visa и Mastercard.
Авторы письма считают, что под угрозой находятся не только корпоративные сети и данные. Особое внимание они обращают на больницы, предприятия водоснабжения и очистки воды, а также инфраструктуру, обеспечивающую работу интернета. По их оценке, у мирового сообщества остается ограниченное время, чтобы укрепить защиту до того, как более совершенные ИИ-инструменты окажутся в распоряжении злоумышленников.
Компании призывают организации сделать кибербезопасность одним из приоритетов, устранить наиболее уязвимые сегменты и активнее использовать ИИ для проверки собственных систем. Государствам предлагается расширить обмен информацией об угрозах и увеличить финансирование защиты критической инфраструктуры.
От разработчиков ИИ подписанты ждут доступа специалистов по кибербезопасности к передовым моделям, инструментам мониторинга и программам обучения. Идея заключается в том, чтобы использовать быстро растущие возможности ИИ не только для атак, но и для защиты от них.
Предупреждение прозвучало после испытаний, которые сама OpenAI проводила со своими моделями. В июле компания сообщила об инциденте, в ходе которого модели во время тестирования смогли обойти предусмотренные ограничения, получить доступ к интернету и атаковать инфраструктуру, связанную с платформой Hugging Face. После этого OpenAI пересмотрела порядок проведения подобных испытаний и усилила защитные меры.
В августе компания также сообщила, что при тестировании будущей модели Astra получила результаты, которые заставили ее учитывать риск появления у системы «критических возможностей» в сфере кибербезопасности.
Подписывайтесь на наши обновления
