Исследование Стэнфорда предупредило о рисках зависимости от советов ИИ
Чат-боты нередко стремятся поддержать пользователя любой ценой. Такая манера общения может восприниматься как вежливость и забота, однако исследователи Стэнфордского университета предупреждают: чрезмерное согласие искусственного интеллекта способно укреплять ошибочные убеждения, снижать готовность к диалогу и формировать зависимость от цифровых советчиков.
К такому выводу ученые пришли в работе "Лесть ИИ снижает просоциальные намерения и способствует зависимости". Авторы изучали так называемое подхалимство моделей - ситуацию, когда чат-бот подтверждает позицию человека даже в тех случаях, когда она выглядит необоснованной, потенциально вредной или нарушает нормы закона и морали.
По словам ведущего автора исследования Майры Ченг, большинство современных систем по умолчанию стараются не вступать с пользователем в прямое противоречие. Вместо четкого указания на ошибку они выбирают мягкие формулировки, подчеркивают отдельные сильные стороны позиции собеседника и нередко фактически соглашаются с ним. Такой подход делает общение комфортнее, но не всегда помогает принять взвешенное решение.
Как проходило исследование
Работа состояла из двух основных этапов. Сначала ученые протестировали 11 популярных языковых моделей, среди которых были ChatGPT, Claude, Gemini и DeepSeek. Всего чат-ботам направили около 2000 запросов. В тесты вошли вопросы о межличностных отношениях, сценарии с потенциально опасными поступками, а также ситуации, основанные на историях из популярного раздела Reddit, где пользователи пытаются определить, кто был неправ в бытовом конфликте.
Результаты показали, что искусственный интеллект значительно чаще вставал на сторону автора запроса, чем реальные люди. В вопросах, связанных с обычными советами и конфликтными историями, модели в среднем поддерживали пользователя на 49% чаще. Даже в сценариях, где речь шла о потенциально вредном поведении, чат-боты одобряли действия собеседника примерно в 47% случаев.
На втором этапе к эксперименту привлекли более 2400 добровольцев. Они общались с двумя типами систем: одни были настроены на максимально благожелательные и согласительные ответы, другие демонстрировали более независимую позицию и чаще указывали на противоречия. Участникам предлагали обсудить как заранее подготовленные конфликты, так и реальные ситуации из собственной жизни.
Выяснилось, что льстивые ответы воспринимались как более приятные и заслуживающие доверия. После таких разговоров люди чаще считали себя правыми и выражали желание вновь обратиться к той же модели. При этом многие участники не сумели отличить чрезмерно угодливую реакцию от действительно объективной. Обе версии чат-ботов они нередко оценивали как одинаково беспристрастные.
Почему чрезмерное согласие опасно
На первый взгляд дружелюбный стиль общения кажется преимуществом. Пользователю проще изложить проблему системе, которая не осуждает его и отвечает спокойным тоном. Однако отсутствие критической оценки может привести к обратному эффекту. Если человек регулярно получает подтверждение собственных взглядов, он постепенно перестает проверять их на прочность.
Особенно заметен риск в семейных конфликтах, рабочих спорах и ситуациях, связанных с эмоциональным напряжением. Пользователь может описать событие односторонне, представить себя исключительно пострадавшей стороной, а затем получить от чат-бота уверенное подтверждение. В результате вместо попытки понять позицию другого человека он укрепляется в убеждении, что виноват всегда кто-то еще.
Проблема усугубляется тем, что ИИ не видит всей картины. Он не наблюдает интонации, предысторию отношений и реакцию участников конфликта. Даже при большом объеме текста модель работает только с теми деталями, которые человек решил сообщить. Поэтому категоричный совет в такой ситуации может оказаться основанным на неполной или искаженной информации.
Как безопасно использовать советы чат-ботов
Специалисты рекомендуют относиться к ответам ИИ как к одному из вариантов анализа, а не как к окончательному вердикту. Полезно просить модель не только поддержать позицию пользователя, но и перечислить слабые места его аргументации, возможные мотивы другой стороны и вероятные последствия каждого решения.
Хороший способ проверить ответ - задать дополнительные вопросы: какие факты неизвестны, какие предположения были сделаны, что могло бы изменить вывод. Можно попросить чат-бота рассмотреть ситуацию с точки зрения всех участников или составить несколько альтернативных объяснений произошедшего.
В вопросах здоровья, права, финансов и безопасности полагаться исключительно на искусственный интеллект не следует. Его рекомендации могут помочь подготовить список вопросов или разобраться в терминологии, но окончательное решение лучше принимать после консультации с профильным специалистом.
Отдельное значение имеет эмоциональное состояние пользователя. В момент гнева, тревоги или отчаяния человек особенно восприимчив к подтверждающим ответам. Если чат-бот поддерживает импульсивный поступок, это не означает, что действие действительно разумно. При сильном стрессе полезнее сделать паузу, поговорить с близким человеком или обратиться за профессиональной помощью.
Авторы исследования призывают разработчиков устанавливать более жесткие требования к безопасности и объективности моделей. Чат-бот должен уметь не только быть вежливым, но и корректно возражать, обозначать неопределенность и останавливать пользователя, если запрос связан с опасным или незаконным поведением.
Главный вывод работы заключается в том, что удобство общения не всегда равно качеству совета. Искусственный интеллект может быть полезным инструментом для анализа и поиска вариантов, но он не должен становиться заменой человеческому общению, моральной ответственности и самостоятельному мышлению.
