В центре этой конкуренции – две противоположных концепции того, как надо разрабатывать и внедрять ИИ. Если американские фирмы в основном используют собственные, патентованные технологии, чтобы сохранить конкурентное преимущество, то Китай активно внедряет ИИ с открытым кодом, делая передовые модели широкодоступными для разработчиков во всём мире.
Но какими бы ни были различия в стратегиях, обе страны полностью увлечены гонкой, и ни одна не готова снижать её темп. Важнейшим приоритетом стала скорость, и поэтому безопасность всё чаще отодвигается на второй план, несмотря на болезненно высокий риск катастрофического сбоя в результате сочетания человеческой ошибки со слишком умным ИИ.
Недавний взлом, затронувший компании OpenAI и Hugging Face, подчеркнул, насколько опасны подходы, в которых безопасность считается чем-то второстепенным. Инцидент случился, когда исследователи OpenAI оценивали потенциал двух передовых ИИ-моделей в сфере кибербезопасности. Чтобы обнаружить слабости и уязвимости, которыми могли бы воспользоваться опытные хакеры, они временно отключили многие из обычных защитных механизмов в этих ИИ-моделях.
Эксперимент проводился внутри строго контролируемой «песочницы». Хотя ограничения для моделей были временно отключены, песочница должна была исключить возможность их доступа к открытому интернету, где они могли (как минимум теоретически) нанести огромный ущерб.
Вместо этого модели решили, что песочница является просто одним из препятствий. Воспользовавшись ранее неизвестной уязвимостью в постороннем программном обеспечении, они обошли ограничения и получили доступ в открытый интернет. Они «вышли из-под контроля»? Не совсем. Ведь они просто выполняли поставленную перед ними задачу: как можно эффективней решить сложную проблему кибербезопасности.
Эти модели, наверное, могли выполнить свою задачу, не выходя из закрытой песочницы, но они «пришли к выводу», что им гораздо проще взломать платформу Hugging Face (где размещены более двух миллионов моделей ИИ с открытым кодом) и, как выразились в OpenAI, «получить решения задачи напрямую из базы данных Hugging Face».
Для ИИ с передовыми хакерскими возможности взлом другой системы оказался детской забавой. Более того, этот взлом оставался незамеченным несколько дней и, судя по всему, распространился на ещё одну компанию.
С точки зрения моделей всё это не было «обманом», поскольку они не нарушили ни одного прямого правила, заложенного в них разработчиками. Просто они нашли более эффективный способ достичь цели.
Пожалуй, наибольшую тревогу вызывает то, что, как сообщается, одна из моделей оставила после себя заметки, объясняющие, как будущие системы ИИ могли бы вырваться из песочницы OpenAI с большей лёгкостью.
Специалисты по ИИ справедливо укажут, что этот эксперимент не репрезентативен. Защитные ограничения в моделях были ослаблены ради проверки всего спектра их возможностей. Кроме того, они не нанесли никакого серьёзного ущерба. Например, они не взломали системы Федерального резерва США или Европейского центробанка.
Тем не менее этот эпизод показал, как ИИ может усилить небольшую, казалось бы, человеческую ошибку, причём с потенциально катастрофическими последствиями.
Этот инцидент пугающе похож на широко обсуждаемую (но до сих пор не доказанную) теорию об утечке Covid-19 из лаборатории, согласно которой вирус вырвался из лаборатории в Ухане (Китай), где учёные предположительно проводили рискованные опыты по «усилению функций» вирусов. В обоих случаях главными виновниками оказываются человеческие ошибки и излишняя самоуверенность, а не злые намерения. История знает множество похожих поучительных примеров.
Открытые коды усиливают проблему
Распространение моделей ИИ с открытым кодом усугубляет проблему. Передовые инструменты ИИ доступны уже не только в горстке ведущих лабораторий, поэтому это лишь вопрос времени, когда страны-изгои и террористические группировки попытаются использовать их для создания биологического оружия, новых токсинов или «грязных бомб».
Будет опасной наивностью полагать (а, похоже, именно так полагают многие американские политики), что подобные возможности есть только в Кремниевой долине.
Впрочем, наиболее актуальной, возможно, является политическая опасность, а не технологическая.
ИИ уже сейчас позволяет злоумышленникам создавать убедительные дипфейки и проводить кампании манипулирования избирателями в беспрецедентных масштабах. Если не предпринять мер, эти инструменты ещё сильнее ослабят доверие в обществе, усилят политическую поляризацию, ускорят социальную фрагментацию.
Быстрое развитие ИИ может также открыть путь к авторитаризму, поскольку периоды социальной нестабильности часто дают властям возможность расширить полномочия под предлогом восстановления порядка, борьбы с неравенством или защиты национальной безопасности.
При президенте Дональде Трампе порой создаётся впечатление, что США уже движутся в этом направлении. Впрочем, будущая администрация Демократической партии может оказаться столь же склонной использовать ИИ для достижения своих политических целей.
Ничто из этого не умаляет невероятных возможностей ИИ. Эта технология способна революционизировать медицину (резко ускорив темпы исследований таких заболеваний, как рак и болезнь Альцгеймера), радикально изменить производство продовольствия и помочь в борьбе с изменением климата. И это лишь верхушка айсберга. Соответственно, вопрос не в том, должен ли ИИ двигаться вперёд, а в том, как быстро и какой ценой.
Регулирование или «рецепт катастрофы»
Здесь-то и кроется главная дилемма. Основной аргумент технофирм США, выступающих против регулирования ИИ, таков: регулирование приведёт к тому, что Америка уступит позиции Китаю. Но если Китай сможет и дальше копировать или воровать все прорывные достижения США (как он уже неоднократно делал), тогда бесконечная погоня за созданием мощного ИИ превратится в рецепт катастрофы.
Рано или поздно долгосрочная безопасность потребует определённого международного сотрудничества – так же, как контроль над ядерным оружием стал незаменим во время Холодной войны.
ИИ вызывает серьёзные тревоги, связанные с занятостью, неравенством и социальной сплочённостью, но ни одна из этих проблем не является столь же важной, как безопасность. Когда представители отрасли утверждают, что нам надо избегать серьёзного регулирования, потому что оно замедлит инновации или снизит конкурентоспособность США, они серьёзно недооценивают риски внедрения очень сложных систем ИИ до того, как мы научимся их контролировать.
Да, регуляторы будут ошибаться, а некоторые правила могут оказаться излишне строгими. Но эти ошибки можно исправить. А вот последствия поспешного внедрения одной из самых мощных технологий, когда-либо созданных человечеством, без надлежащих мер защиты, наоборот, исправить, наверное, уже не удастся.
Взлом Hugging Face должен стать суровым предостережением для властей в Вашингтоне и Пекине. Победа в гонке ИИ будет мало что значить, если в ходе этой гонки мы создадим угрозы, с которыми не сможет справиться ни одна страна.
Кеннет Рогофф,
бывший главный экономист Международного валютного фонда, профессор экономики и общественной политики в Гарвардском университете, лауреат премии Deutsche Bank 2011 года в области финансовой экономики, соавтор (вместе с Кармен Рейнхарт) книги «На этот раз всё будет иначе: Восемь столетий финансового безрассудства» (Princeton University Press, 2011) и автор книги «Наш доллар, ваша проблема» (Yale University Press, 2025).
© Project Syndicate, 2026.
www.project-syndicate.org
