Фото: Jonathan Raa/NurPhoto via Getty Images
AI translation
Но истории не только имитируют уже существующую реальность. Они также порождают новые реальности, выражая то, что возможно.
Например, революционные вступительные слова Декларации независимости США («Мы считаем эти истины самоочевидными») отвели почетное место индивидуальной свободе, независимо от классовой принадлежности, владения собственностью, религиозных или политических убеждений. С помощью этого мифа отцы-основатели заложили основу для системы управления, построенной на принципах свободы и равенства.
Передовые модели ИИ воплощают оба вида повествования. С одной стороны, они имитируют человеческое мышление прошлого, реагируя на запросы пользователей путем поиска релевантных шаблонов в обширной базе данных ранее заархивированных материалов, на которых они были обучены.
Но они также создают новую реальность. Основатели Anthropic и OpenAI, похоже, разделяют одно и то же видение скорого прихода всемогущего «бога» ИИ, который приведет нас к трансгуманистической утопии. Однако есть веские основания усомниться в том, не является ли этот миф лишь предлогом, оправдывающим гонку за доминированием на рынке, богатством и властью.
Мораль для ИИ
Некоторые деятели, такие как соучредитель Anthropic Кристофер Олах, сейчас пытаются провести ускоренный курс по морали для моделей компании. Но для этого уже немного поздно. Если бы компания Anthropic искренне стремилась привести поведение Клода в соответствие с благом человечества, она сначала обучила бы своих инженеров мудрости и добродетели.
Вместо этого Клод был обучен оказывать услуги: предоставлять информацию, решать проблемы и самостоятельно выполнять полезные задачи. ИИ продается как инструмент для извлечения прибыли, как источник дешевого и сверхэффективного когнитивного труда. Любая мораль, введенная задним числом, — не более чем прикрытие, прикраса основной экономической сущности и утешительная мерушка для общественности, которая все больше опасается этой технологии.
Реальность, которую в конечном итоге создаёт миф, зависит от культурного контекста, в котором он функционирует.
Если культура прославляет ИИ как благотворное сверхразумное божественное дарование, то опасности, связанные с его созданием (например, когда агенты ИИ не действуют в наших интересах), становятся более вероятными. Но если культура выступает против безудержного высокомерия и настаивает на альтернативной концепции социального сотрудничества, она с большей вероятностью сможет сдержать высокомерие и предотвратить опасности, которые оно может породить.
Такие опасения имеют глубокие корни в западном мировоззрении. Досократический философ Гераклит писал: «Солнце не переступит своих пределов; если же оно это сделает, Эринии, служанки Правосудия, найдут его». Это те самые Эринии (или Фурии), которые преследуют Ореста за убийство Клитемнестры в трагедии Эсхила «Эвмениды». Орест убил свою мать, чтобы отомстить за своего отца, великого ахейского полководца Агамемнона, которого Клитемнестра убила за то, что он принес в жертву их дочь Ифигению. Её юная жизнь была той ценой, которую, по словам пророков, необходимо было заплатить за благоприятный ветер, чтобы ахейский флот мог отплыть на Трою. Так происходит из поколения в поколение.
Ещё слишком рано судить, какие моральные ограничения, если таковые вообще будут, «Миф» компании Anthropic будет имитировать или воплощать. История подсказывает, что нам следует проявлять осторожность. Потребовалось осознание человеческой иррациональности, безумия «взаимного гарантированного уничтожения», чтобы в XX веке были заключены международные соглашения, запрещающие распространение ядерного оружия. Социальное сотрудничество одержало победу перед лицом иррационального стремления к власти и господству.
Угрозы ИИ реальны и сопоставимы с ядерной угрозой
Человеческая природа не изменилась, но изменились угрозы, с которыми мы сталкиваемся. Мы знаем, что опасности, связанные с вышедшим из-под контроля ИИ, реальны, потому что мы уже были их свидетелями. К счастью, спонтанный взлом Hugging Face агентами OpenAI нанёс минимальный ущерб.
Однако с тех пор стали известны и другие подобные инциденты, и эксперты предупреждают, что в будущем нам может не повезти так же. От получения агентами ИИ несанкционированного контроля над критически важной инфраструктурой до выполнения указаний террористических групп или разработки новых патогенов — нельзя исключать ни одну угрозу.
Как напоминает нам правовед Антара Халдар, социальное сотрудничество и сохранение общего достояния всегда служили оплотом против катастрофических последствий человеческой гордыни, жадности и стремления к власти. Хотя эту основополагающую идею затмила классическая экономическая концепция эгоистичного «рационального человека», она не исчезла. Сохраняются истории, воспевающие прошлые акты самопожертвования и служения на благо группы, равно как и те, кто представляет себе новые моральные возможности будущего.
Например, сторонники социального сотрудничества сегодня могут обратить наше внимание на мужество и дипломатическую проницательность, которые потребовались для предотвращения ядерного Армагеддона после Второй мировой войны.
Что потребуется для управления угрозой, исходящей от ИИ? Можно представить себе глобальную координацию между независимыми комиссиями по расследованию, обладающими необходимой квалификацией и оснащением для получения информации из первых рук об опасностях, которые представляют конкретные модели. В таком случае всеобщий мониторинг можно было бы дополнить международно-признанными защитными механизмами — минимальными обязательными стандартами безопасности, — способными предотвращать угрозы до их возникновения и эффективно справляться с ними, когда они все же появятся.
Мифы (или основополагающие истории), которые мы рассказываем самим себе, в конечном итоге определят нашу судьбу. Они не обязательно должны исходить только от лидеров отрасли, заинтересованных в том, чтобы увлекать нас видениями новых научных и технологических горизонтов. Благоразумие в сочетании с альтернативной историей, подчеркивающей важность социального сотрудничества, может оказаться единственным средством, способным удержать нас на пути выживания и взаимного процветания.
Ричард К. Шервин,
почетный профессор права Нью-Йоркской юридической школы, является соредактором (совместно с Даниэль Селермайер) книги «Культурная история права в современную эпоху » (Bloomsbury, 2021).
© Project Syndicate, 2026.
www.project-syndicate.org
Комментарии
0Комментариев пока нет. Вы можете начать разговор.
Комментировать могут читатели с аккаунтом Logos Press.
Войти, чтобы комментировать