Эта модель называется Claude Mythos Preview, а инициатива — Project Glasswing, уточняет AI News.
Примечательно, что в число партнеров по запуску Claude Mythos Preview вошли Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks.
Помимо этой основной группы, Anthropic предоставила доступ более чем 40 дополнительным организациям, которые создают или поддерживают критически важную программную инфраструктуру. Anthropic выделяет до 100 миллионов долларов США в виде кредитов на использование Mythos Preview в рамках этой инициативы, а также 4 миллиона долларов США в виде прямых пожертвований организациям, занимающимся безопасностью открытого исходного кода.
«Сопутствующий» успех
Примечательно, что Mythos Preview не была специально обучена для работы в области кибербезопасности. Компания Anthropic заявила, что эти возможности «появились как следствие общих улучшений в коде, логике и автономности», и что те же улучшения, которые делают модель лучше в устранении уязвимостей, также делают её лучше в их эксплуатации.
И это уже имеет значение. Mythos Preview улучшилась до такой степени, что в основном превосходит существующие бенчмарки безопасности, вынуждая Anthropic переключить своё внимание на новые реальные задачи — в частности, на уязвимости нулевого дня. Эти недостатки ранее были неизвестны разработчикам программного обеспечения.
При этом компания не намерена выставлять новый продукт на продажу. «Мы не планируем делать Claude Mythos Preview общедоступным из-за его возможностей в области кибербезопасности, — сказал Ньютон Ченг, руководитель группы кибербезопасности Frontier Red Team в Anthropic. — Учитывая темпы развития ИИ, скоро такие возможности начнут распространяться, потенциально выходя за рамки тех, кто стремится к их безопасному использованию. Последствия — для экономики, общественной безопасности и национальной безопасности — могут быть серьезными».
Компания также в частном порядке проинформировала высокопоставленных чиновников правительства США о всех возможностях Mythos Preview. Разведывательное сообщество сейчас активно изучает, как эта модель может изменить как наступательные, так и оборонительные хакерские операции.
