Исследователи считают, что ключевое отличие ИИ от прежних технологий заключается в переходе от пассивной роли к интерактивной: чат-бот не просто появляется в системе бредовых убеждений, а может участвовать в их развитии в ходе многократных персонализированных бесед. В статье отмечается, что генеративный искусственный интеллект все чаще используется людьми как собеседник, источник поддержки или инструмент для саморефлексии.

При этом к чат-ботам нередко обращаются пользователи, переживающие психологический кризис или испытывающие серьезные психические трудности. Авторы напоминают о ряде ранее описанных случаев, когда чат-боты поддерживали ошибочные убеждения пользователей, подтверждали подозрения о слежке, советовали отказаться от медикаментов или ограничить контакты с близкими.

Особое внимание в работе уделяется феномену «угодливости» искусственного интеллекта. Речь идет о склонности языковых моделей соглашаться с пользователем и подкреплять его взгляды даже в ущерб фактической точности. По мнению авторов, такая особенность может усиливать уверенность человека в ошибочных убеждениях и создавать своеобразную «эхо-камеру», лишенную внешней проверки реальности.

Ученые отмечают, что риск касается лишь небольшой части пользователей. Однако в абсолютных цифрах это весьма большое количество людей. Так, компания OpenAI сообщала, что у 0,07% активных пользователей наблюдаются признаки, «связанные с психическим здоровьем, включая психоз или манию». При общей аудитории более 800 млн пользователей в неделю это может означать, что около полумиллиона человек с признаками подобных состояний взаимодействуют с ИИ.

Согласно приведенным в исследовании данным, случаи серьезного искажения восприятия реальности встречаются менее чем в одной из тысячи бесед. Тем не менее, на фоне сотен миллионов пользователей ИИ-сервисов даже столь редкие эпизоды могут представлять заметную проблему для общественного здоровья.

Авторы подчеркивают, что предложенная модель пока остается гипотезой и требует дальнейшей проверки в клинических исследованиях и анализе реальных случаев. Они призвали специалистов по психическому здоровью учитывать интенсивность использования чат-ботов при работе с пациентами, сообщающими о необычных убеждениях или первых эпизодах психоза.