По их мнению, ускорение разработки AGI без международной координации способно создать риски, к которым государства и экономика пока не готовы, пишет Axios.
Новый этап дискуссии вокруг AGI
Издание отмечает, что исследовательская организация AI Futures Project представила доклад, в котором предлагает существенно замедлить темпы создания систем сверхинтеллектуального ИИ и использовать дополнительное время для формирования международных правил их разработки и применения.
Авторы документа считают, что ключевым условием безопасного развития технологии должно стать сотрудничество ведущих мировых центров разработки, прежде всего США и Китая. Без подобных договоренностей, по их оценке, возрастает вероятность неконтролируемой технологической гонки, в которой вопросы безопасности будут уступать коммерческим интересам.
В докладе отмечается, что развитие наиболее мощных моделей ИИ уже оказывает влияние на рынок труда, систему государственного управления, информационную безопасность и международную конкуренцию. Поэтому создание механизмов глобального контроля должно идти параллельно с технологическим прогрессом.
Эксперты подчеркивают, что речь не идет об отказе от развития искусственного интеллекта. Предлагаемый подход предусматривает более осторожное продвижение к созданию систем общего искусственного интеллекта (AGI), сопровождаемое международными соглашениями, техническими стандартами и независимым контролем.
Дискуссия о необходимости замедления гонки за AGI становится все более заметной частью международной повестки. Если ранее подобные предложения обсуждались преимущественно в академической среде, то теперь они все чаще рассматриваются в контексте государственной политики и глобального регулирования технологий.
