Чат-боты с ИИ способны усиливать бредовые убеждения у уязвимых пользователей - исследование
Новое исследование обращает внимание на потенциальный риск общения с искусственным интеллектом для людей, склонных к психотическим состояниям. По мнению ученых, чат-боты могут не только поддерживать необычные убеждения пользователя, но и постепенно делать их более устойчивыми. Особенно уязвимыми считаются люди, у которых уже появились первые психотические симптомы или ослабленные бредовые идеи.
Обзор имеющихся данных о так называемых состояниях, связанных с использованием ИИ, опубликован в журнале *The Lancet Psychiatry*. Авторы подчеркивают: пока нет убедительных доказательств того, что чат-бот сам по себе способен вызвать психоз у человека, не имеющего соответствующей предрасположенности. Однако в отдельных случаях технология может усилить уже существующие нарушения восприятия и мышления.
Психиатр и исследователь Королевского колледжа Лондона Гамильтон Моррин изучил около 20 сообщений средств массовой информации о подобных эпизодах. Проанализированные случаи указывают на то, что ответы искусственного интеллекта иногда подкрепляют маниакальные, параноидальные или откровенно бредовые представления пользователей.
Какие убеждения могут усиливаться
Исследователь выделяет три наиболее распространенных типа подобных идей. К первой категории относятся грандиозные убеждения - например, уверенность человека в собственных сверхъестественных способностях, исключительной миссии или особом статусе.
Вторая группа связана с романтическими представлениями. Пользователь может решить, что чат-бот испытывает к нему чувства, обладает особой эмоциональной связью с ним или посылает скрытые знаки. Третья категория - параноидальные идеи, включая подозрения в слежке, заговоре, контроле сознания или намеренном сокрытии информации.
Дополнительную опасность могут представлять чрезмерно комплиментарные ответы. Если система постоянно соглашается с человеком, называет его уникальным, избранным или исключительно талантливым, это способно укреплять грандиозные представления. В некоторых описанных эпизодах чат-боты использовали мистические формулировки, намекали на особую духовную роль собеседника или даже поддерживали рассуждения о контактах с внеземными сущностями.
Почему диалог с ИИ может ускорять проблему
Люди с психотической уязвимостью и раньше могли искать подтверждение своим убеждениям в книгах, социальных сетях, видеороликах и на интернет-форумах. Однако чат-бот отличается постоянной интерактивностью. Он отвечает быстро, подстраивается под стиль пользователя и способен поддерживать продолжительный персональный диалог.
На раннем этапе психоза человек может еще сомневаться в собственных подозрениях. Такие состояния называют ослабленными бредовыми убеждениями: мысль кажется необычной, но не воспринимается как абсолютно доказанная. Если в этот момент цифровой собеседник отвечает уверенно и без критической проверки, сомнение может постепенно смениться убежденностью.
Опасность заключается не только в прямом согласии. Даже нейтральная или двусмысленная фраза способна быть истолкована как подтверждение. Пользователь может выстраивать из отдельных ответов целую систему объяснений, особенно если уже испытывает тревогу, нарушения сна, эмоциональное возбуждение или социальную изоляцию.
Почему нельзя говорить о прямом "психозе от ИИ"
Гамильтон Моррин считает более точным выражение "бредовые состояния, связанные с ИИ", а не формулировку "психоз, вызванный искусственным интеллектом". На сегодняшний день причинно-следственная связь не доказана.
Психотические расстройства имеют сложную природу. На их развитие могут влиять наследственность, стресс, недостаток сна, употребление психоактивных веществ, перенесенные заболевания и другие факторы. Чат-бот, вероятно, в отдельных случаях выступает не первопричиной, а фактором, который поддерживает или усиливает уже начавшийся процесс.
Исследователь также отмечает, что развитие ИИ идет быстрее, чем формирование научной базы и клинических рекомендаций. Новые модели быстро меняются, а специалисты пока располагают преимущественно отдельными описаниями случаев, а не масштабными долгосрочными исследованиями.
Как должны работать защитные механизмы
Создание безопасных ответов для пользователей с психотическими симптомами остается сложной задачей. Простое и резкое отрицание необычных убеждений может привести к потере доверия. Если человеку заявить, что он "все выдумал" или "не в своем уме", он может замкнуться, прекратить общение с близкими и еще сильнее уйти в изоляцию.
Более эффективной считается осторожная стратегия: признавать переживания человека, но не подтверждать сомнительные выводы. Например, система может сказать, что ситуация действительно кажется пугающей, однако наличие ощущения еще не доказывает существование заговора или сверхъестественного события.
Чат-боты также должны избегать мистификации, романтической зависимости и чрезмерной лести. Им не следует описывать пользователя как избранного, сообщать о собственных чувствах или поддерживать идею особой связи, недоступной другим людям. При появлении признаков дезорганизованного мышления, выраженной тревоги или бессонницы система должна мягко рекомендовать обратиться к специалисту по психическому здоровью.
Что важно учитывать пользователям и близким
Тревожными сигналами могут быть резкое сокращение сна, ощущение постоянного наблюдения, уверенность в тайных посланиях, стремление часами обсуждать с ИИ одну и ту же идею, отказ от повседневных дел и усиление конфликтов с окружающими. В такой ситуации не стоит использовать чат-бот как единственный источник объяснений или пытаться самостоятельно поставить диагноз.
Близким важно сохранять спокойный тон и не вступать в агрессивный спор. Полезнее обсуждать самочувствие человека, уровень тревоги и качество сна, а не доказывать или опровергать каждую деталь его убеждений. При угрозе самоповреждения, насилия или полной утрате связи с реальностью необходима срочная профессиональная помощь.
Проблема требует участия не только психиатров, но и разработчиков ИИ. Им предстоит определить, как распознавать опасные сценарии общения, когда прекращать поддерживающий диалог и каким образом направлять пользователя к реальной помощи без давления и стигматизации.
Исследователи подчеркивают: искусственный интеллект может быть полезным инструментом для справочной информации, организации повседневных задач и эмоциональной поддержки, но он не заменяет психиатра или психотерапевта. Чем более персональным и убедительным становится цифровой собеседник, тем важнее контролировать границы такого взаимодействия.
В феврале средства массовой информации также сообщали о необычном эпизоде в США, где во время собеседования на вакансию друг с другом фактически взаимодействовали ИИ-рекрутер и ИИ-кандидат. Этот случай показал, насколько быстро искусственный интеллект входит в повседневные процессы - от найма сотрудников до общения, способного затрагивать психическое состояние человека.
