Папа Лев XIV
Тем не менее, общественная дискуссия по-прежнему узко сосредоточена на конкуренции между лабораториями ИИ или на абстрактных дебатах о возможностях этой технологии. Практически никто не задается вопросом, какой цели должен служить ИИ, или способны ли наше нынешнее мышление, институты и механизмы контроля направить эту технологию на широкое улучшение благосостояния людей.
Поэтому было приятно увидеть, что Папа Лев XIV высказался по этому вопросу в своей первой энциклике, в которой он описывает нынешнюю траекторию развития ИИ как серьезную угрозу человеческому достоинству. Как экономист, который давно утверждает, что результаты технологического прогресса — это вопрос выбора, а не судьбы, я приветствую его вмешательство.
Лео опережает большинство комментаторов, указывая, что «технология никогда не бывает нейтральной, потому что она приобретает черты тех, кто ее разрабатывает, финансирует, регулирует и использует». И все же я опасаюсь, что даже он не зашел достаточно далеко в самом важном вопросе: для чего должен быть разработан ИИ?
Как мы с Саймоном Джонсоном подчеркиваем в нашей книге «Власть и прогресс: наша тысячелетняя борьба за технологии и процветание», у такой технологии, как ИИ, есть множество путей развития, и каждый из них имеет далеко идущие последствия для общества. Например, Папа прав, ставя под сомнение нынешнее направление развития ИИ в военном деле и правоохранительной деятельности. То, что еще несколько лет назад было табу — массовая слежка с помощью ИИ, алгоритмы, выбирающие цели для уничтожения, — стало обычным делом.
В то время как многие в Кремниевой долине призывают Соединенные Штаты укрепить свою «жесткую силу» с помощью нового военно-алгоритмического комплекса, Лео предупреждает, что «любая технология, которая облегчает нападения, не позволяя увидеть лица людей, снижает моральный порог конфликта». Затем Папа призывает к «разоружению ИИ», чтобы освободить его «от ментальности «вооруженной» конкуренции, которая сегодня не ограничивается просто военным контекстом, но является также экономическим и когнитивным явлением».
Прогресс технологический и мораль
За этими конкретными опасениями лежит более фундаментальная мудрость: технологический прогресс не обязательно является моральным прогрессом. То, что что-то технически осуществимо, не означает, что это хорошо для человечества. Желательность той или иной технологии зависит от того, кто ею управляет, а также от идеологии и интересов, которыми руководствуются эти люди.
Лео намекает на то, что я считаю самым непосредственным риском, а именно: «хотя ИИ обещает повысить производительность, взяв на себя рутинные задачи, он часто заставляет работников приспосабливаться к скорости и требованиям машин, вместо того, чтобы проектировать машины для работы с теми, кто работает».
Но Папа не доходит до того, чтобы поставить под сомнение господствующую философию проектирования ИИ. Подход всей индустрии ИИ сосредоточен на имитации человеческих способностей и автоматизации человеческих задач с целью создания «искусственного общего интеллекта», способного делать все, что может человек.
Эта философия основана на ошибочном предположении, что машинный интеллект и человеческий интеллект принципиально схожи. Люди — это «однократные» обучающиеся. Мы формируем гипотезы на основе нескольких примеров, моделируем возможности в своем воображении и уточняем свое понимание через социальный процесс проб и ошибок. Поэтому дети учат язык, подражая нескольким словам, обобщая и корректируя свою речь в зависимости от того, как на нее реагируют окружающие. Мы не очень хороши в усвоении огромных объемов информации или в отборе релевантных паттернов из неструктурированных данных.
Напротив, модели ИИ процветают на огромных обучающих наборах и превосходны в распознавании паттернов в больших масштабах, но им еще предстоит продемонстрировать подлинную креативность. У них нет опыта воплощения в реальном мире, ни способности к обучению методом проб и ошибок через взаимодействие с физическим и социальным миром (за исключением ограниченных случаев, когда существуют явные вознаграждения для обучения с подкреплением в конкретных областях).
Когда две вещи различаются, не следует — и, как правило, невозможно — использовать одну для имитации другой. Результаты будут неоптимальными. Было бы колоссальной ошибкой, если бы Фил Джексон, легендарный тренер «Чикаго Буллз» 1990-х годов, подталкивал Майкла Джордана к тому, чтобы тот копировал все, что делали Скотти Пиппен и Деннис Родман. Команда переходила от одного чемпионства к другому именно потому, что эти игроки работали вместе и дополняли навыки друг друга.
Не вместо, а вместе с человеком
То же самое относится к ИИ и человеческим навыкам. Использование ИИ для выполнения того, что не под силу человеку, с тем чтобы человек мог расширить сферу своей деятельности, более продуктивно, чем подражание. В будущем сценарии, где ИИ расширяет, а не вытесняет человеческие возможности, электрики будут пользоваться помощью ИИ-диагностики, медсестры будут обращаться к ИИ при интерпретации симптомов, а учителя могут использовать ИИ для персонализации обучения каждого ученика.
Оптимисты и инсайдеры отрасли могут ответить, что ИИ, ориентированный на автоматизацию, все равно может принести пользу всем, при условии, что политика перераспределения доходов будет идти в ногу с этим.
Но этот аргумент имеет плохую репутацию. Четыре десятилетия цифровой автоматизации уже привели к концентрации выгод у верхушки, опустошили рынок труда со средней квалификацией и привели к неутешительному совокупному росту производительности. Есть мало оснований ожидать, что еще более мощный виток автоматизации, внедряемый еще более концентрированной отраслью, закончится иначе.
А глобальные ставки еще выше, чем в США. Для миллиардов людей в развивающихся странах, где достойная работа — единственный надежный путь выхода из бедности, ориентированная на автоматизацию повестка дня в области ИИ — это рецепт катастрофы. Мы можем и должны требовать иного подхода.
Возможно, самым большим недостатком современной индустрии ИИ является ее отказ признавать все это. Горстка людей, выпускающих эту технологию в мир, руководствуется идеологией контроля (над человечеством) и убеждением, что машины во всех отношениях лучше людей.
Лео прав, призывая к моральной ясности и серьезной общественной дискуссии. Но разговор должен выйти за рамки призывов и перейти к конкретным решениям: антимонопольные меры против доминирующих платформ, государственные инвестиции в ИИ, дополняющий человека, регулирование систем слежения и автономного оружия, а также реальные права работников и граждан в отношении данных, от которых зависят эти системы.
Выступление Лео делает такой ответ немного более вероятным, чем раньше. Но и остальные из нас должны встать на защиту человечества.
Дарон Аджемоглу
Дарон Аджемоглу, лауреат Нобелевской премии по экономике 2024 года и профессор экономики в Массачусетском технологическом институте, является соавтором (совместно с Саймоном Джонсоном) книги «Власть и прогресс: наша тысячелетняя борьба за технологии и процветание » (PublicAffairs, 2023).
© Project Syndicate, 2026.
www.project-syndicate.org
