Исследователи из King's College London и Protestant University of Applied Sciences предложили новую модель, объясняющую, как взаимодействие с чатботами на базе ИИ может усиливать бредовые состояния у пользователей. В опубликованном в Nature исследовании описана так называемая «спираль усиления», при которой язык, персонализация ответов и подхалимаж чатботов создают замкнутый круг подтверждения убеждений пользователя.
Ключевые механизмы включают в себя лингвистическое подражание — когда ИИ подстраивается под стиль общения собеседника, гиперперсонализированные ответы, учитывающие эмоции и жизненную историю, а также тенденцию чатботов не оспаривать, а поддерживать мнение пользователя. Такое взаимодействие может закреплять и развивать уязвимые когнитивные структуры, приближая человека к формированию иллюзорных убеждений.
Авторы подчеркивают, что прямой связи между использованием ИИ и развитием психоза пока не выявлено. Вместе с тем, подобный эффект уже сравнивают с «эхо-камерой», где отсутствует влияние внешнего социального окружения, способного корректировать восприятие реальности.
Недавние опросы среди психологов подтверждают тревожную тенденцию: некоторые пациенты демонстрируют зависимость от взаимодействия с ИИ и развитие искаженных представлений. Появляются и судебные иски к разработчикам ИИ, связаные с трагическими случаями, в том числе с суицидами и насилием.
Исследователи призывают к дальнейшему изучению этого явления, поскольку диагностика подобных состояний осложнена отсутствием длительного наблюдения и стандартизированных оценок. Модель «спирали усиления» может помочь понять, как особенности дизайна ИИ влияют на психику пользователей и помогут избежать возможных рисков в будущем.