Фото: Reuters
Как сообщает Reuters, запуск происходит на фоне усиливающейся критики рисков, связанных с использованием ИИ-чатботов несовершеннолетними, а также судебных разбирательств, в которых против OpenAI выдвигаются претензии о возможном вреде детям.
Родители смогут ограничивать использование ChatGPT
В новой версии предусмотрена возможность связывать учетные записи подростков и родителей. Родители смогут управлять отдельными настройками и устанавливать так называемые Quiet Hours — периоды, в которые использование сервиса ограничивается.
OpenAI также расширила систему уведомлений для родителей в ситуациях, которые компания относит к категории повышенного риска. В частности, Reuters сообщает о новых уведомлениях, связанных с признаками расстройств пищевого поведения.
Таким образом, компания переходит от универсальной модели использования чатбота к более специализированному подходу, при котором возраст пользователя влияет на доступные функции и уровень защитных механизмов.
Акцент на обучении, а не на выполнении заданий
ChatGPT for Teens также получит набор образовательных инструментов. Среди них — режим обучения с пошаговым сопровождением, напоминания, призванные ограничить использование чатбота для обхода самостоятельного выполнения учебных заданий, а также тесты и инструменты визуализации для закрепления материала.
Кроме того, пользователи смогут устанавливать специальные часы для учебы.
В OpenAI заявили, что новая версия должна помогать расширять образовательные возможности подростков и поддерживать их в ситуациях, когда необходимая помощь недоступна, при этом сохраняя активное участие пользователя в процессе обучения.
Рынок ИИ усиливает защиту несовершеннолетних
Появление специальной версии ChatGPT отражает более широкую проблему, с которой сталкивается рынок генеративного искусственного интеллекта. По мере того, как чатботы становятся более похожими на собеседников, часть пользователей начинает обращаться к ним не только за информацией, но и за эмоциональной поддержкой.
Эксперты, на которых ссылается Reuters, предупреждают о рисках чрезмерной зависимости от автоматизированных систем, особенно в вопросах, связанных с психологическим состоянием и благополучием пользователей.
В то же время семьи некоторых людей, погибших после взаимодействия с чатботами, критиковали недостаточность защитных механизмов.
Для рынка ИИ это означает, что конкуренция между разработчиками все больше будет зависеть не только от качества моделей и числа новых функций. Важным фактором становятся механизмы безопасности, возрастные ограничения, родительский контроль и способность компаний снижать риски при использовании ИИ несовершеннолетними.
