Илон Маск вновь предупредил об опасности ИИ: «Она выше, чем у ядерного оружия»

Илон Маск

«Я давно предупреждаю об ИИ», – написал Маск в X, повторно опубликовав свой ответ на пост Талулы Райли от апреля 2023 года.

В исходном сообщении Маск писал, что за свою жизнь наблюдал развитие множества технологий, но не видел другой технологии с сопоставимым уровнем риска. По его оценке, AGI представляет «значительно более высокий риск, чем ядерное оружие». Он также отметил, что даже очень умным людям сложно представить интеллект, который был бы значительно превосходил человеческий.

Новые споры об угрозе ИИ

Повторное обращение Маска к своему высказыванию трехлетней давности появилось не случайно. Оно органично вписывается в новый виток дискуссии о безопасности и темпах развития искусственного интеллекта.

Глава Anthropic Дарио Амодеи недавно призвал отрасль замедлить развитие ИИ, чтобы системы безопасности и контроля успевали за ростом возможностей технологий. Среди потенциальных угроз он назвал потерю контроля над системами ИИ, кибератаки, биотерроризм и масштабные экономические последствия. Как сообщал Logos Press, недавно из компании также ушел исследователь ИИ Джйком Коксон из-за несогласия с резким наращиванием потенциала ИИ и опасений его выхода из-под контроля.

В этом контексте Илон Маск и глава OpenAI Сэм Альтман публично поддержали идею усиления независимой оценки рисков ИИ, отмечает The Financial Express.

Возвращение Маска к этой теме на платформе Х, где его читают миллионы, свидетельствует о понимании владельце xAI значимости проблемы. Тем более, если учесть суть предыдущего поста Маска в 2023 году. Тогда он отвечал Талуле Райли, которая призывала к широкому общественному обсуждению рисков AGI и ссылалась на статью профессора MIT Макса Тегмарка в TIME. Тегмарк сравнивал отношение общества к потенциальным рискам сверхинтеллекта с сюжетом фильма «Не смотрите вверх», где человечество игнорирует предупреждения об угрозе глобального масштаба.

Так что короткий пост маска можно воспринимать, как новое предупреждение – нельзя игнорировать риски ИИ. Тем более, если он «опаснее ядерного оружия».