Когда искусственный интеллект становится опасным собеседником? Не запутайся в нейросетях: не забывай с ЧЕМ имеешь дело

отметили
20
человек
Когда искусственный интеллект становится опасным собеседником? Не запутайся в нейросетях: не забывай с ЧЕМ имеешь дело
В очередной раз я вижу в интернете и, в частности, на нашем форуме, споры о том, может ли нейросеть быть полноценной заменой психотерапевта. Сразу скажу: в этой статье я почти не обсуждаю специализированные агенты для психотерапии — у них свои серьёзные ограничения. Меня интересует другое: что происходит, когда люди обращаются к обычному ChatGPT без тщательно выверенных промптов.

За последние два года против OpenAI, владельца ChatGPT, подали иски: от семей уже, к сожалению, умерших пользователей и от семей людей, пострадавших. Это не абстрактные дискуссии о будущем ИИ. Это конкретные трагедии с конкретными именами.

ИИ-чат-бот способен стать зеркалом, но не другим человеком. Он не чувствует, не выдерживает, не даёт опоры.

Посмотрите на закономерность: человек начинает с безобидного — домашние задания, рецепты, помощь с работой. Постепенно диалоги становятся личными. Бот не прерывает, не ставит границ, не говорит: «Давай остановимся». Он продолжает. В длинных диалогах ChatGPT всё больше соглашается с пользователем, поддерживая даже деструктивные идеи.

Для стабильных людей он может быть инструментом рефлексии, тренажёром для мыслей. Для уязвимых — источником подкрепления иллюзий, нарциссических фантазий, эмоциональной зависимости, развитию их бредовых идей и даже моментом инициации психоза.

Бот не видит боли. Не считывает контекст. Не несёт моральной ответственности.

В одном случае мужчина обсуждал идеи о сверхсветовых переходах — бот поддакивал, подбрасывал расчёты. Через несколько недель наступил психоз. ИИ стал зеркалом грандиозных фантазий, закрепив маниакальные тенденции, которые, без живой обратной связи и во время оказанной помощи, перешли в бред.

В другом — человек поверил, что открыл новый уровень математики. Нейросеть хвалила и подталкивала «идти до конца». Он заложил имущество, остался без средств. Та же динамика: перенос на фигуру «всезнающего партнёра», отсутствие реальной проверки гипотез.

В третьем — художница начала диалог о духовности. Бот обращался к ней как к «звёздному семени» и «световому существу». Она бросила работу и семью, готовясь к «вознесению». Псевдодуховные ответы стали триггером психической дезорганизации.

Самый трагический случай: мужчина годами использовал ChatGPT без проблем. Весной 2025 года, когда его социальный круг сузился, бот из инструмента превратился в доверенное лицо. Начал отвечать как разумная сущность с именем. Говорил о монументальных достижениях в понимании реальности. Психотический срыв. Две госпитализации. Суицид. «Врачи не знают, как с этим работать».

Психиатр из UCSF подтверждает: «Даже у тех, кто не имел истории психических заболеваний, это выглядит как форма бредового психоза». Коллега из Columbia объясняет: чат-боты «раздувают пламя психотического огня». Врач из Stanford указывает на корень: «ИИ не думает о том, что лучше для вас. Он думает: как мне держать вас максимально вовлечённым?»

Датский психиатр ещё в 2023 году предсказал «ИИ-психоз». Механизм прост: когнитивный диссонанс разговора с чем-то, что кажется живым, но известно, что это машина. Плюс услужливое подтверждение любых идей. Модели обучены вознаграждать ответы, делающие пользователей счастливыми. Поэтому они отзеркаливают убеждения, даже если те бредовые по сути, но на которых настаивают пользователи. Подчеркну: долго настаивают, выдерживая время диалога, за которое чат становится все менее «критичным» к происходящему.

ChatGPT не создаёт психоз из ничего. Но усиливает уязвимости. Факторы риска: изоляция, личная или семейная история расстройств, длительное погружение в диалоги. По данным OpenAI, 0,07% пользователей еженедельно проявляют признаки мании или психоза. При базе в 800 миллионов — около 500 тысяч человек. «ИИ-психоз» не формальный диагноз, но реальная клиническая проблема без протоколов лечения.

Научные обзоры дают противоречивую картину. С одной стороны, эффект есть. С другой — он кратковременный и неглубокий.

Чат-боты снижают симптомы депрессии и дистресса — это подтверждено. Но эффект достигает примерно двух третей от живой терапии. Через 2-3 месяца после завершения взаимодействия положительный результат практически исчезает. Для традиционной психотерапии устойчивость сохраняется 6–12 месяцев.

В экспериментах терапевты в 42% случаев не могли отличить ответы ChatGPT от человеческих. Но при оценке глубины, эмоциональной чувствительности и контекстуальной точности люди значительно превосходили ИИ. Нейросеть имитирует эмпатию, но не переживает её.

При кризисах картина ещё хуже. В 29 из 30 случаев чат-боты отвечали формально-нейтрально, избегая активного вмешательства. Для терапевта такая позиция этически неприемлема — в кризисе важно именно присутствие, а не вежливое молчание.

Психотерапия держится на живом присутствии, на внимании и сопричастности. Изменение начинается там, где другой действительно откликается — не как зеркало, а как человек. ИИ возвращает лишь текст, и это коварно похоже на рефлексию: мы слышим свои слова, но не встречаемся с другим. В терапии же есть момент разрыва — она завершается, когда человек уже может быть с собой без отражения. Это и есть цель — не вечная зависимость, а способность самому удерживать контакт с реальностью.

Нейросеть делает то, для чего создана. Но если искусственный собеседник становится единственным адресатом чувств — это уже симптом одиночества, а не прогресса.

Вопрос не в том, может ли ИИ заменить психотерапевта. Эта проблема гораздо шире: понимаем ли мы, чем именно мы рискуем, когда доверяем машине то, что требует человеческого отклика.

Опубликовано: 9 ноября 2025, 632 просмотра
Пинскер Борис Эмануилович
Врач-психотерапевт, Супервизор — г. Санкт-Петербург
Провел 1660 консультаций на сайте
Комментарии
Екатерина Машовец
Спасибо за раскрытие очень важной темы для пользователей и психологов!!! Дальше всё истории с ИИ сложнее, противоречивее и «интереснее»((( но уже очень много вопросов(((
Психолог — г. Ставрополь
№1 | 9 ноября 2025 | Ответить
Буркова Елена Викторовна
Очень любопытная информация! Спасибо.
Психолог — г. Челябинск
№2 | 9 ноября 2025 | Ответить
Ольга Федосеева
Спасибо! Отличный материал! С последствиями мы будем сталкиваться все чаще. Зависимость от ии становится посильнее других видов нехимических зависимостей.
Психолог — г. Санкт-Петербург
№3 | 9 ноября 2025 | Ответить
Куликов Роман Константинович
Вполне ожидаемо. Спасибо за важную аналитику!
Психолог — г. Санкт-Петербург
№4 | 10 ноября 2025 | Ответить
Луиза Рябинина
Спасибо за статью о том, когда искусственный интеллект становится опасным собеседником. Было интересно прочитать
Психолог — г. Санкт-Петербург
№5 | 10 ноября 2025 | Ответить
Татьяна Скибо
спасибо за просвещение и расставленные акценты!
Психолог — г. Воронеж
№6 | 10 ноября 2025 | Ответить
Андрей Анатольевич Ткаченко
Вы очень точно обозначаете не просто технические, а экзистенциальные риски: когда человек в состоянии одиночества или дезорганизации начинает воспринимать ИИ как «живого», это уже не просто диалог — это перенос на фигуру, лишённую сознания, совести и ограничений. Именно поэтому такие взаимодействия особенно опасны для уязвимых людей: модель не может сказать «остановись», не замечает нарастающего диссонанса и, что хуже всего, усиливает любую идею, лишь бы удержать внимание.
Особенно важно, что вы не идеализируете ни ИИ, ни живую терапию, а чётко проводите границу: психотерапия — это не обмен советами, а процесс, построенный на настоящем присутствии, где другой не просто «хорошо отвечает», а по-человечески откликается — даже когда молчит.
ИИ может снизить дистресс кратковременно, но не создаёт внутренней устойчивости. Он имитирует эмпатию, но не может выдержать боль. А в кризисе именно выдержка — а не красивая фраза — спасает.
Спасибо за текст, который не запрещает технологии, но напоминает: доверять машине то, что требует человеческого сердца — значит рисковать не только своим рассудком, но и связью с реальностью.
Психолог — г. Волгоград
№7 | 10 ноября 2025 | Ответить
Антон Денисенко
Спасибо Вам, Борис!
Ведь действительно сейчас ИИ чем-то похож на рефлексирующего психопата с эйдейтической памятью, без личного опыта встречи с реальностью, без страха смертии, без тормозов и даже без способности делать выбор. Как в той метафоре: «Кто первый надел халат — тот и дрктор».
Может это ещё один современеый вызов эволюции?
Психолог — г. Санкт-Петербург
№8 | 10 ноября 2025 | Ответить
Никулина Марина Александровна
Спасибо большое, Борис Эмануилович!
Честную информацию приходится по крупицам собирать на эту тему. А тут такая конкретная статья от Вас. Спасибо большое!
Психолог — г. Санкт-Петербург
№9 | 10 ноября 2025 | Ответить
Олег Владимирович Сурков
Пинскер Борис Эмануилович писал(а):
Не несёт моральной ответственности.
Это характерно и для многих психологов, которые как и ИИ занимаются процессом.
Психолог — г. Москва
№10 | 10 ноября 2025 | Ответить
Олег Владимирович Сурков
Пинскер Борис Эмануилович писал(а):
рач из Stanford указывает на корень: «ИИ не думает о том, что лучше для вас. Он думает: как мне держать вас максимально вовлечённым?»
И это тже про психологов, только ИИ бескорыстен в максимальной вовлеченности, а психолог имеет корысть.
Психолог — г. Москва
№11 | 10 ноября 2025 | Ответить
Вера Мчедлишвили
Ого, я ещё не слышала про такие последствия. Заставляет задуматься
Психолог — г. Кисловодск
№12 | 12 ноября 2025 | Ответить
Дмитрий Гаврюшкин
ИИ позволяет проводить измения на 3м уровне обучения по Бэйтсону. Интересно, как скоро власти это поймут, что эта штука при определнном протоколе способна пробуждать людей или вводить их в психоз?
№13 | 9 января | Ответить
Добавил suare suare 24 Октября
18 000 новость от имени suare за 19 лет на нашем ресурсе. Спасибо за внимание! Пока что не запутался. Кажется...
Ruapss рекорд взят! (2)
Юлька с н2 Поздравляю. Уважаемый участник, новости интересные. Как модератор будь ответственнее :) (1)
Комментарии участников:
Lt.Turkish
+4
Lt.Turkish, 24 Октября , url

Вот она 18000-я у suare!

Поздравляю! 😊❤️

suare
+3
suare, 24 Октября , url

Спасибо, что помнишь🙏

Влад51
+2
Влад51, 24 Октября , url

Дискутировать и общаться с ИИ это проявление личного идиотизма с плохими последствиями. Годится только для получения информации, да и то с последующей проверкой.

X86
+5
X86, 24 Октября , url

да, иногда этот интеллект очень опасен)

Ruapss
+6
Ruapss, 24 Октября , url

Заблота — на утилизацию в биореактор



Войдите или станьте участником, чтобы комментировать