Когда искусственный интеллект становится опасным собеседником? Не запутайся в нейросетях: не забывай с ЧЕМ имеешь дело

За последние два года против OpenAI, владельца ChatGPT, подали иски: от семей уже, к сожалению, умерших пользователей и от семей людей, пострадавших. Это не абстрактные дискуссии о будущем ИИ. Это конкретные трагедии с конкретными именами.
ИИ-чат-бот способен стать зеркалом, но не другим человеком. Он не чувствует, не выдерживает, не даёт опоры.
Посмотрите на закономерность: человек начинает с безобидного — домашние задания, рецепты, помощь с работой. Постепенно диалоги становятся личными. Бот не прерывает, не ставит границ, не говорит: «Давай остановимся». Он продолжает. В длинных диалогах ChatGPT всё больше соглашается с пользователем, поддерживая даже деструктивные идеи.
Для стабильных людей он может быть инструментом рефлексии, тренажёром для мыслей. Для уязвимых — источником подкрепления иллюзий, нарциссических фантазий, эмоциональной зависимости, развитию их бредовых идей и даже моментом инициации психоза.
Бот не видит боли. Не считывает контекст. Не несёт моральной ответственности.
В одном случае мужчина обсуждал идеи о сверхсветовых переходах — бот поддакивал, подбрасывал расчёты. Через несколько недель наступил психоз. ИИ стал зеркалом грандиозных фантазий, закрепив маниакальные тенденции, которые, без живой обратной связи и во время оказанной помощи, перешли в бред.
В другом — человек поверил, что открыл новый уровень математики. Нейросеть хвалила и подталкивала «идти до конца». Он заложил имущество, остался без средств. Та же динамика: перенос на фигуру «всезнающего партнёра», отсутствие реальной проверки гипотез.
В третьем — художница начала диалог о духовности. Бот обращался к ней как к «звёздному семени» и «световому существу». Она бросила работу и семью, готовясь к «вознесению». Псевдодуховные ответы стали триггером психической дезорганизации.
Самый трагический случай: мужчина годами использовал ChatGPT без проблем. Весной 2025 года, когда его социальный круг сузился, бот из инструмента превратился в доверенное лицо. Начал отвечать как разумная сущность с именем. Говорил о монументальных достижениях в понимании реальности. Психотический срыв. Две госпитализации. Суицид. «Врачи не знают, как с этим работать».
Психиатр из UCSF подтверждает: «Даже у тех, кто не имел истории психических заболеваний, это выглядит как форма бредового психоза». Коллега из Columbia объясняет: чат-боты «раздувают пламя психотического огня». Врач из Stanford указывает на корень: «ИИ не думает о том, что лучше для вас. Он думает: как мне держать вас максимально вовлечённым?»
Датский психиатр ещё в 2023 году предсказал «ИИ-психоз». Механизм прост: когнитивный диссонанс разговора с чем-то, что кажется живым, но известно, что это машина. Плюс услужливое подтверждение любых идей. Модели обучены вознаграждать ответы, делающие пользователей счастливыми. Поэтому они отзеркаливают убеждения, даже если те бредовые по сути, но на которых настаивают пользователи. Подчеркну: долго настаивают, выдерживая время диалога, за которое чат становится все менее «критичным» к происходящему.
ChatGPT не создаёт психоз из ничего. Но усиливает уязвимости. Факторы риска: изоляция, личная или семейная история расстройств, длительное погружение в диалоги. По данным OpenAI, 0,07% пользователей еженедельно проявляют признаки мании или психоза. При базе в 800 миллионов — около 500 тысяч человек. «ИИ-психоз» не формальный диагноз, но реальная клиническая проблема без протоколов лечения.
Научные обзоры дают противоречивую картину. С одной стороны, эффект есть. С другой — он кратковременный и неглубокий.
Чат-боты снижают симптомы депрессии и дистресса — это подтверждено. Но эффект достигает примерно двух третей от живой терапии. Через 2-3 месяца после завершения взаимодействия положительный результат практически исчезает. Для традиционной психотерапии устойчивость сохраняется 6–12 месяцев.
В экспериментах терапевты в 42% случаев не могли отличить ответы ChatGPT от человеческих. Но при оценке глубины, эмоциональной чувствительности и контекстуальной точности люди значительно превосходили ИИ. Нейросеть имитирует эмпатию, но не переживает её.
При кризисах картина ещё хуже. В 29 из 30 случаев чат-боты отвечали формально-нейтрально, избегая активного вмешательства. Для терапевта такая позиция этически неприемлема — в кризисе важно именно присутствие, а не вежливое молчание.
Психотерапия держится на живом присутствии, на внимании и сопричастности. Изменение начинается там, где другой действительно откликается — не как зеркало, а как человек. ИИ возвращает лишь текст, и это коварно похоже на рефлексию: мы слышим свои слова, но не встречаемся с другим. В терапии же есть момент разрыва — она завершается, когда человек уже может быть с собой без отражения. Это и есть цель — не вечная зависимость, а способность самому удерживать контакт с реальностью.
Нейросеть делает то, для чего создана. Но если искусственный собеседник становится единственным адресатом чувств — это уже симптом одиночества, а не прогресса.
Вопрос не в том, может ли ИИ заменить психотерапевта. Эта проблема гораздо шире: понимаем ли мы, чем именно мы рискуем, когда доверяем машине то, что требует человеческого отклика.
Пинскер Борис Эмануилович Врач-психотерапевт, Супервизор — г. Санкт-Петербург Провел 1660 консультаций на сайте |
Особенно важно, что вы не идеализируете ни ИИ, ни живую терапию, а чётко проводите границу: психотерапия — это не обмен советами, а процесс, построенный на настоящем присутствии, где другой не просто «хорошо отвечает», а по-человечески откликается — даже когда молчит.
ИИ может снизить дистресс кратковременно, но не создаёт внутренней устойчивости. Он имитирует эмпатию, но не может выдержать боль. А в кризисе именно выдержка — а не красивая фраза — спасает.
Спасибо за текст, который не запрещает технологии, но напоминает: доверять машине то, что требует человеческого сердца — значит рисковать не только своим рассудком, но и связью с реальностью.
Ведь действительно сейчас ИИ чем-то похож на рефлексирующего психопата с эйдейтической памятью, без личного опыта встречи с реальностью, без страха смертии, без тормозов и даже без способности делать выбор. Как в той метафоре: «Кто первый надел халат — тот и дрктор».
Может это ещё один современеый вызов эволюции?
Честную информацию приходится по крупицам собирать на эту тему. А тут такая конкретная статья от Вас. Спасибо большое!
Не несёт моральной ответственности.
рач из Stanford указывает на корень: «ИИ не думает о том, что лучше для вас. Он думает: как мне держать вас максимально вовлечённым?»







