ИИ лечит хуже Google: чат-боты часто ошибаются в медицинских советах
Современные чат-боты умеют быстро анализировать описание симптомов, объяснять медицинские термины и подсказывать, к какому специалисту обратиться. Однако считать их полноценной заменой врачу пока нельзя. Новое исследование, опубликованное в журнале *Nature Medicine*, показало: рекомендации искусственного интеллекта по вопросам здоровья нередко оказываются неточными, противоречивыми или потенциально опасными.
Учёные сравнили возможности популярных ИИ-систем с обычным поиском в интернете. Участникам предлагали клинические сценарии, включавшие симптомы, сведения о состоянии человека и историю болезни. Нужно было определить вероятный диагноз и выбрать дальнейшую тактику: вызвать скорую помощь, срочно обратиться в больницу, записаться к врачу или остаться дома и наблюдать за самочувствием.
В исследовании участвовали более 1200 жителей Великобритании, не имевших медицинского образования. Испытуемые могли использовать чат-боты, чтобы разобраться в предложенных ситуациях. Результаты оказались далеки от идеальных: правильная тактика была выбрана менее чем в половине случаев, а точный диагноз удалось определить приблизительно в 34% ситуаций.
При этом искусственный интеллект не продемонстрировал заметного преимущества перед традиционным поиском Google. В некоторых сценариях чат-боты формулировали уверенные, но неверные выводы, а иногда давали рекомендации, противоречащие друг другу. Особенно рискованными оказались ситуации, в которых от скорости обращения за помощью зависел исход заболевания.
Одной из главных причин ошибок исследователи назвали неполноту пользовательских запросов. Люди часто забывают указать температуру, длительность симптомов, принимаемые лекарства, хронические заболевания, беременность, аллергии или недавние поездки. Для врача такие сведения могут быть принципиально важными, тогда как чат-бот способен построить ответ на ограниченном наборе данных.
Проблему усугубляет то, что даже небольшое изменение формулировки способно повлиять на итоговую рекомендацию. Описание одних и тех же симптомов в разных выражениях может привести систему к противоположным выводам: в одном случае она посоветует отдыхать дома, в другом - немедленно обратиться в стационар. Такая нестабильность особенно опасна для людей, которые воспринимают ответ программы как медицинское заключение.
Авторы работы считают, что современные ИИ-сервисы пока не готовы к самостоятельному взаимодействию с пациентами. По мнению специалистов, система должна не только отвечать на заданный вопрос, но и сама выявлять пробелы в информации. Ей необходимо уточнять, когда появились симптомы, насколько быстро они усиливаются, есть ли затруднение дыхания, потеря сознания, сильная боль или другие признаки неотложного состояния.
Разработчики чат-ботов признают существующие ограничения. В новых версиях моделей они стараются улучшить распознавание экстренных ситуаций, чаще задавать дополнительные вопросы и осторожнее формулировать медицинские рекомендации. Но даже более совершенные алгоритмы не обладают возможностью провести осмотр, измерить давление, оценить цвет кожи, услышать дыхание или выполнить лабораторные исследования.
ИИ может быть полезен как инструмент предварительной навигации. С его помощью можно составить список вопросов для врача, расшифровать сложное медицинское выражение, систематизировать результаты анализов или понять, какие данные важно сообщить на приёме. Однако полученную информацию следует воспринимать только как справочную, а не как окончательный диагноз.
Особую осторожность нужно соблюдать при симптомах, которые могут указывать на угрозу жизни. Сильная боль в груди, внезапная одышка, нарушение речи, слабость в конечностях, потеря сознания, судороги, массивное кровотечение, резкое ухудшение состояния или высокая температура у маленького ребёнка требуют обращения за экстренной помощью. В таких случаях нельзя тратить время на длительное общение с чат-ботом.
Не стоит использовать ИИ для самостоятельного назначения антибиотиков, гормональных препаратов, антикоагулянтов и других лекарств, требующих контроля специалиста. Ошибка в дозировке, противопоказаниях или продолжительности курса может привести к осложнениям и ухудшить состояние. Также опасно отменять уже назначенное лечение только потому, что алгоритм предложил другой вариант.
При обращении к медицинскому чат-боту полезно указывать возраст, пол, хронические заболевания, аллергии, беременность, перечень принимаемых препаратов, время появления симптомов и динамику состояния. Но даже подробный запрос не гарантирует правильного ответа. Чем серьёзнее проблема и чем быстрее она развивается, тем важнее очная консультация.
Известны случаи, когда искусственный интеллект, напротив, помогал обратить внимание на редкое заболевание. Так, во время отдыха на Бали россиянка заразилась крысиным тифом после контакта с грызунами на вилле. Местные врачи предположили лихорадку денге, однако назначенное лечение не помогало. После загрузки результатов анализов в ChatGPT система указала на возможный крысиный тиф и упомянула антибиотикотерапию. Через четыре дня после начала соответствующего лечения состояние женщины улучшилось.
Однако подобные истории не доказывают, что чат-бот способен заменить врача. Удачный результат может быть связан с тем, что у пользователя уже имелись анализы, симптомы были подробно описаны, а окончательное решение всё равно принималось медицинскими специалистами. Единичный положительный пример не отменяет статистически подтверждённый риск ошибок.
Главный вывод исследования заключается в том, что ИИ следует использовать как вспомогательный справочный инструмент, а не как самостоятельную медицинскую службу. Он способен ускорить поиск информации, но не несёт полноценной ответственности за диагноз и последствия лечения. При любых сомнениях, ухудшении самочувствия или появлении тревожных симптомов приоритетом должна оставаться консультация квалифицированного врача.
