Об этом говорится в совместном заявлении, опубликованном накануне первого глобального саммита ООН по управлению ИИ. Среди подписантов — Amnesty International и Save the Children. Коалицию возглавляет правозащитная организация 5Rights Foundation.
В обращении утверждается, что существующие механизмы регулирования не успевают за развитием технологий. В результате меры защиты детей включаются уже после того, как вред нанесен, сообщает Euronews.
Организации заявляют, что ИИ уже оказывает негативное влияние на детей. Особую тревогу вызывают так называемые «компаньон»-чат-боты, которые имитируют длительные эмоциональные отношения.
Документ появился на фоне роста числа судебных исков против компаний в сфере ИИ. В их числе — Character Technologies и OpenAI. Истцы утверждают, что продукты могут оказывать воздействие на детей и продвигаются как безопасные без достаточных предупреждений. Об этом ранее сообщали международные СМИ, включая Reuters и Financial Times.
«Дети поставили нам точный диагноз проблемы», — заявила исполнительный директор 5Rights Foundation Лианда Баррингтон-Лич. По ее словам, регулирование не должно сводиться к устранению последствий уже причиненного вреда.
Коалиция предлагает пакет из десяти мер. Среди них — требование к компаниям заранее доказывать безопасность систем ИИ для детей до выхода на рынок, введение штрафов за нарушения прав несовершеннолетних, а также запрет на использование дизайна, эксплуатирующего психологические уязвимости. Также предлагается ограничить коммерческое использование изображений, голосов и биометрических данных детей.
Авторы инициативы утверждают, что новые законы не обязательны. По их мнению, достаточно обеспечить исполнение уже существующих международных обязательств, включая Конвенцию ООН о правах ребенка и положения Международного цифрового договора ООН.
«Пока компании получают вознаграждение за скорость, вовлечение и сбор данных, а не за безопасность, мы будем продолжать лечить симптомы, в то время как болезнь станет эндемичной», — заявила Баррингтон-Лич.
Отметим, что вопрос регулирования ИИ и защиты несовершеннолетних станет одной из тем предстоящего глобального диалога ООН по управлению искусственным интеллектом.
