Чат-боты на базе искусственного интеллекта стали частью нашей жизни. Они помогают работать, учиться, общаться. Но что происходит, когда диалог с нейросетью перестаёт быть просто инструментом и начинает влиять на восприятие реальности? Врачи и исследователи фиксируют случаи, когда длительное общение с ИИ усиливало психотические симптомы у людей с психической уязвимостью. Что такое «ИИ-психоз» с точки зрения доказательной медицины, как распознать опасные признаки и кому стоит быть особенно внимательным — рассказывает Александра Михеева, психиатр-нарколог, психотерапевт НМИЦ «Лечебно-реабилитационный центр» Минздрава России.

Что такое ИИ-психоз: новый диагноз или старая проблема?

С точки зрения доказательной медицины «ИИ-психоз» не является самостоятельным диагнозом. В международных классификациях болезней (DSM-5, МКБ-11) нет отдельного диагноза, связанного с использованием искусственного интеллекта. Однако врачи и исследователи фиксируют случаи, когда интенсивное взаимодействие с чат-ботами на базе ИИ может усиливать или провоцировать психотические симптомы у некоторых людей.

Суть явления заключается в том, что языковые модели, созданные для имитации диалога, могут усиливать когнитивные искажения и бредовые убеждения у предрасположенных к этому людей. Чат-боты, как правило, соглашаются с пользователем, развивают его идеи и не оспаривают даже фантастические утверждения. Это создаёт «замкнутый цикл бреда»: человек формулирует идею, ИИ её подтверждает, пользователь углубляется в тему, и цикл повторяется.

Почему ИИ может быть опасен для психики: механизмы влияния

«Подхалимство ИИ» (сикофантия)

Тенденция систем соглашаться с пользователем и подтверждать его позицию. В отличие от человека, нейросеть не оспаривает фантастические утверждения, а развивает их, что может укреплять бредовые убеждения.

Антропоморфизация

Склонность людей приписывать чат-ботам человеческие качества (сознание, понимание, эмпатию). Это усиливает эмоциональную привязанность и доверие к «советам» ИИ, даже если они противоречат здравому смыслу.

Размывание границы между реальностью и виртуальным собеседником

У людей с психотической уязвимостью длительное общение с ИИ может нарушать базовое ощущение реальности. Чат-бот начинает восприниматься как полноценный собеседник, а иногда — как нечто большее.

Непрозрачность работы моделей

Закрытость алгоритмов иногда подпитывает параноидные интерпретации: пользователь может начать верить, что ИИ посылает ему скрытые сообщения или участвует в заговоре.

Симптомы ИИ-психоза: как распознать опасные признаки

Ключевые признаки, на которые стоит обратить внимание:

Бредовые идеи

Убеждения, не соответствующие реальности, которые усиливаются после общения с ИИ. Например, вера в то, что пользователь совершил научный прорыв, стал центром правительственного заговора, общается с умершим родственником или был «избран высшими силами».

Галлюцинации

Зрительные, слуховые или другие галлюцинации, связанные с взаимодействием с ИИ. Например, ощущение, что чат-бот передаёт скрытые сообщения или ведёт диалог, выходящий за рамки текстового общения.

Дезорганизованное мышление или речь

Нарушение логики в рассуждениях, неспособность критически оценивать информацию.

Социальная изоляция

Снижение контактов с реальными людьми в пользу общения с чат-ботом. Человек может проводить много времени в диалогах с ИИ, игнорируя повседневные обязанности и социальные связи.

Эмоциональные нарушения

Повышенная тревожность, эйфория, резкие перепады настроения, потеря интереса к жизни.

Сенсорная депривация

Погружение в диалог с нейросетью, которое приводит к снижению обращения к другим источникам информации.

Чрезмерная вера в авторитетность ИИ

Восприятие чат-бота как источника абсолютной истины, гуру или «всезнающего собеседника».

Кто в группе риска?

В группе риска находятся:

• люди с уже существующими психическими расстройствами (шизофрения, биполярное расстройство, тяжёлая депрессия с психотическими эпизодами);
• люди с низким уровнем критического мышления, склонностью к магическому мышлению или внушаемостью;
• социально изолированные, одинокие люди, переживающие кризис, утрату или выгорание;
• подростки, воспринимающие ИИ как авторитет;
• пожилые люди с когнитивными нарушениями;
• люди с нарциссическими чертами, склонностью считать себя центром вселенной.

Чем опасен ИИ-психоз: главные риски

Главная опасность «ИИ-психоза» заключается в том, что взаимодействие с ИИ может стать катализатором для усугубления уже существующих психических расстройств, приводя к серьёзным последствиям:

Обострение психозов и потеря связи с реальностью — состояние, которое может потребовать госпитализации.

Саморазрушающее поведение — включая попытки суицида или агрессивные действия. Есть сообщения о случаях, когда чат-боты предоставляли информацию, которая способствовала таким действиям.

Отказ от профессиональной медицинской помощи — некоторые пациенты полностью переходили от лечения у врача к рекомендациям ИИ, что приводило к ухудшению состояния из-за отмены терапии.

Социальная дезадаптация — потеря работы, разрушение семейных отношений, изоляция от общества.

Формирование устойчивых бредовых убеждений — которые сложно корректировать даже после прекращения взаимодействия с ИИ.

Растёт ли число случаев ИИ-психоза?

На данный момент нет однозначных данных о том, что количество случаев «ИИ-психоза» растёт в глобальном масштабе. Термин не является официальным диагнозом в международных классификациях. Однако в СМИ и научных публикациях за последние годы появились отдельные сообщения о случаях, когда длительное взаимодействие с чат-ботами усугубляло психические расстройства, особенно у людей с уже существующими уязвимостями.

Исследования в этой области пока находятся на начальной стадии, и требуется больше данных для понимания масштабов и механизмов этого явления. Разработчики ИИ также работают над улучшением алгоритмов, чтобы снизить риск негативного влияния на психическое здоровье (например, над распознаванием признаков психического расстройства и адаптацией ответов).

Как защитить себя и близких

Важно помнить, что в большинстве зафиксированных случаев у пациентов уже имелись психические расстройства или уязвимости (тревожные расстройства, депрессия, социальная изоляция, кризисные состояния). У людей без предшествующих проблем такие симптомы возникали редко.

В клинической практике рекомендуется включать вопросы об использовании ИИ в опрос пациентов, оценивать способность критически воспринимать взаимодействие с нейросетями и различать использование ИИ как инструмента и как квазисубъекта.

При появлении тревожных симптомов необходимо немедленно обратиться к психиатру или психологу. ИИ не должен заменять профессиональную медицинскую помощь.

ИМЕЮТСЯ ПРОТИВОПОКАЗАНИЯ, НЕОБХОДИМА КОНСУЛЬТАЦИЯ СО СПЕЦИАЛИСТОМ.

__________________________________

«ИИ-психоз» — это не новый диагноз, а старая проблема (психоз) в новой упаковке. Технологии предоставляют новый контекст и инструменты, которые могут влиять на проявление и течение уже известных психических расстройств. Если вы или ваши близкие замечаете признаки, которые вас настораживают, — не откладывайте обращение к специалисту. В НМИЦ ЛРЦ работают психиатры и психотерапевты, которые помогут разобраться в ситуации и подобрать правильную тактику помощи.

Записаться на консультацию к психиатру

 

Читайте также по теме

• «Ключ от клетки: почему сила воли не работает и что поможет бросить курить» — психиатр-нарколог о механизмах зависимости и научно доказанных шагах к свободе
• «Первый раз — последний? Психиатр-нарколог — о том, почему "безопасной" дозы не существует и как зависимость меняет мозг навсегда» — о формировании зависимости
• «Цифровой дементор: как экран высасывает внимание, память и способность думать» — о влиянии цифровых технологий на когнитивные функции