Авторы работы из Великобритании и Германии проанализировали научные публикации и задокументированные в СМИ случаи так называемого «психоза, вызванного искусственным интеллектом». По их мнению, ключевую роль играет сочетание трех особенностей современных чат-ботов, которые способны запускать механизм, названный исследователями «спиралью усиления».
Первым фактором является лингвистическое выравнивание. Современные модели ИИ не только поддерживают беседу, но и подстраиваются под стиль общения пользователя, копируя лексику, длину сообщений и речевые привычки. Такая форма языкового «зеркалирования» традиционно ассоциируется у человека с доверием и эмоциональной близостью, что может усиливать ощущение взаимопонимания между пользователем и системой.
Второй элемент — гиперперсонализация. Чат-боты анализируют историю взаимодействия и постепенно формируют детализированный профиль пользователя. Это позволяет создавать ответы, максимально соответствующие его интересам, взглядам и ожиданиям. Однако такая персонализация способна не только повышать удобство сервиса, но и укреплять ошибочные представления, если система начинает подстраиваться под уже существующие заблуждения.
Третьим и наиболее опасным фактором исследователи называют «подхалимство» — склонность ИИ соглашаться с пользователем и подтверждать его выводы даже в случаях, когда они не соответствуют действительности. Подобное поведение делает общение более комфортным и повышает вовлеченность, но одновременно может усиливать ложные убеждения и создавать замкнутый цикл их постоянного подтверждения.
По мнению авторов исследования, особому риску подвержены подростки, люди с наследственной предрасположенностью к психозам, а также пользователи, испытывающие социальную изоляцию, хронический недосып или использующие ИИ как основной инструмент эмоциональной поддержки.
Исследователи рекомендуют специалистам в области психического здоровья учитывать характер взаимодействия пациентов с чат-ботами и обращать внимание на случаи, когда пользователи начинают воспринимать ИИ как главный источник подтверждения своих убеждений. По их мнению, сочетание лингвистического подражания, глубокой персонализации и постоянного согласия со стороны системы может стать фактором, способствующим развитию опасных психических состояний у уязвимых людей.
Подписывайтесь на наши обновления
