Кайлаш Сатьярти: миру нужен искусственный интеллект с состраданием

Именно поэтому я представил концепцию «сострадательного ИИ» более чем 12 000 делегатам из 170 стран, которые приняли участие в Глобальном саммите «ИИ во благо» в Женеве в начале этого месяца (об итогах саммита писал Logos Press).

Если мы действительно хотим, чтобы ИИ способствовал общему благу, а не только прибыли и власти, мы должны на месяц вывести инженеров и разработчиков ИИ из их лабораторий. Пусть они познакомятся с детьми, работающими в шахтах и на фабриках, с семьями, вынужденными покинуть свои дома из-за конфликтов, и с уязвимыми сообществами, страдающими от бедности, дискриминации и социальной изоляции. Пусть они пойдут бок о бок с людьми, чья жизнь в гораздо большей степени определяется неопределенностью, страхом и несправедливостью, чем какими-либо технологическими достижениями.

Даже один месяц может изменить образ мышления человека, а это повлияет на то, как разработчики создают эту технологию и формируют будущее.

ИИ уже меняет облик образования, здравоохранения, бизнеса, государственного управления и научных открытий. Он обещает замечательные достижения: от ускорения медицинских исследований и улучшения качества обучения до раскрытия сетей торговли людьми, прогнозирования голода до наступления голодной бедственности и усиления гуманитарной деятельности.

Но каждая технологическая революция ставит перед нами моральный вызов, и ИИ не является исключением. Поскольку эта технология стала передовой линией ожесточённой глобальной конкуренции за экономическую и геополитическую власть, здесь вознаграждается скорость, прославляется масштаб, а доминирование на рынке ценится превыше всего.

Основа ответственных инноваций

В таких условиях мы рискуем забыть о самом важном вопросе: кому, в конечном счёте, должен служить этот интеллект? Самая большая проблема ИИ сегодня заключается не в технических аспектах, а в лидерстве.

Конечно, большая часть дискуссий на глобальных форумах уже сосредоточена на таких концепциях, как «этичный ИИ» и «ответственный ИИ», и они действительно незаменимы. Нам нужны более строгое управление, реальная подотчетность и эффективное регулирование.

Но таких мер безопасности недостаточно. Этика может подсказать нам, что правильно, а законы — установить границы; однако ни то, ни другое само по себе не изменит мировоззрение тех, кто придумывает и разрабатывает технологии, которые повлияют на жизни миллиардов людей. Для этого требуется нечто более глубокое, а именно сострадание.

Сострадание часто путают с эмпатией, добротой или благотворительностью. Но оно не является синонимом ни одного из этих понятий, да и не сводится просто к эмоции или абстрактному моральному идеалу. Сострадание начинается с признания чужого страдания своим собственным, что побуждает нас предпринимать действия для облегчения этого страдания. Оно включает в себя мужество действовать до того, как будет нанесён дополнительный вред. Оно ведёт нас не просто к оптимизации систем, но и к защите человеческого достоинства.

Сострадание — это вовсе не препятствие для технологического прогресса, а основа ответственных инноваций. ИИ, основанный на сострадании, отличается от всех других подходов тем, что исходит не из технологий, а из человечности.

Прежде чем спрашивать, на что способна система, ИИ, основанный на сострадании, задает вопрос: кому эта система служит? Прежде чем стремиться к большей эффективности, он учитывает последствия для людей. Прежде чем восхвалять инновации, он задается вопросом: кто может остаться в стороне?

Этот единственный сдвиг меняет всё. Многие из сегодняшних провалов ИИ — предвзятость, дискриминация, изоляция, дезинформация, ущерб окружающей среде, угрозы благополучию детей — часто описываются как досадные побочные эффекты прогресса.

Но это не просто побочные эффекты. Это доказательство того, что при разработке этих систем кто-то был упущен, не учтён или проигнорирован.

Права человека должны быть несущей опорой конструкции ИИ

Технологии не являются нейтральными, как и алгоритмы. Каждая система несет в себе предположения, приоритеты и ценности людей, которые её создали. Поскольку ИИ обучался на основе накопленных человечеством знаний, он впитал в себя накопленные человечеством предрассудки, неравенства и исторические несправедливости.

Права человека не могут быть просто краской, нанесенной после завершения строительства. Они должны быть несущей опорой всей конструкции. Мы уверены, что мост был обеспечен безопасностью до того, как кто-либо перешёл по нему, потому что безопасность имеет решающее значение для его назначения.

Очевидно, что к ИИ должны применяться те же стандарты. Сострадание нельзя добавить задним числом после внедрения. Оно должно лежать в основе проектирования системы.

Изменение траектории развития этой технологии является неотложной задачей. Дети, растущие сегодня, могут проводить больше времени, взаимодействуя с интеллектуальными машинами, чем с родителями, учителями или соседями. Мы уже понимаем некоторые негативные психологические последствия социальных сетей, которые работают на основе относительно простых форм ИИ. Влияние гораздо более способных систем на эмоциональное развитие детей, их отношения, воображение и психическое благополучие пока остается в значительной степени неизвестным, но оно может оказаться глубоким.

Вместо того чтобы сосредотачиваться в первую очередь на том, как ИИ может преобразовать экономику, нам следует задаться вопросом: что произойдет, если алгоритмы заменят уникальную человеческую способность сопереживать чужой боли? Смогут ли они отстаивать справедливость, если они никогда не были разработаны для распознавания страданий? Смогут ли они укрепить мир, если их задача — лишь оптимизация вовлеченности, эффективности и прибыли?

Эти моральные вопросы должны предшествовать техническим, поскольку именно они могут определить будущее человечества.

Безусловно, ИИ может стать одним из величайших союзников человечества. Он может помочь искоренить современное рабство и торговлю людьми, выявлять случаи сексуального насилия над детьми, расширить доступ к высококачественному образованию на родном языке каждого ребенка, улучшить медицинское обслуживание в сообществах с недостаточным доступом к услугам, прогнозировать гуманитарные кризисы и ускорить прогресс в достижении Целей устойчивого развития.

Но ИИ не выберет это будущее. Это сделаем мы. Принципы, которые мы закрепляем сегодня, станут фундаментом для все более мощных систем, которые мы создаем. Как только этот фундамент закрепится в виде стандартов, институтов и бизнес-моделей, он будет определять отношения человечества с интеллектуальными машинами на протяжении многих поколений.

Мы не можем позволить себе ждать, пока нанесенный вред станет необратимым. Законодательство часто принималось уже после того, как страдания стали реальностью; но в случае с ИИ у нас больше нет возможности позволить себе выжидательную позицию.

Эпоха интеллекта требует мудрости. История будет судить нас не по тому, насколько умными стали наши машины. Она будет судить нас по тому, хватило ли нам дальновидности и мужества, чтобы обеспечить, чтобы этот интеллект оставался на службе человечества.

Кайлаш Сатьярти