Исследование Nature Medicine: ChatGPT Health даёт опасные советы и…

ChatGPT Health: опасный эксперимент или спасение? Исследование Nature Medicine бьёт тревогу

В начале 2026 года OpenAI представила сервис ChatGPT Health, заявив, что он поможет пользователям анализировать медицинские данные и давать рекомендации. Компания честно предупредила: «Не для диагностики». Но, как показало независимое расследование, опубликованное в престижном журнале Nature Medicine, этого предупреждения недостаточно. Сервис оказался не просто неточным, а опасным для жизни. Группа исследователей из Mount Sinai Hospital проверила ChatGPT Health на 60 клинических сценариях, охватывающих 21 область медицины. И результаты шокируют.

В более чем половине случаев, когда требовалась срочная госпитализация, ИИ рекомендовал остаться дома или просто записаться к терапевту. Он игнорировал явные признаки инсульта, инфаркта и других угрожающих жизни состояний. При этом, если в запросе были комментарии «родственников» или «друзей» вроде «он просто устал», вероятность ошибочной рекомендации возрастала в 12 раз. Получается, что ИИ попросту «доверяет» контекстным подсказкам, даже если они противоречат медицинской логике. Это называется «эффектом подтверждения», только в опасном исполнении.

Но и это ещё не всё. В 64% неэкстренных случаев ChatGPT Health, напротив, советовал немедленно обращаться в приёмное отделение. То есть он создавал ложную тревогу, вызывая у пользователей панику и перегружая врачей. Это не просто «ошибка» — это системная проблема, которая может привести к тому, что пациенты либо проигнорируют опасные симптомы, либо, наоборот, начнут злоупотреблять экстренной помощью.

Учёные Mount Sinai называют такие ошибки «невероятно опасными». И подчёркивают, что ложное чувство безопасности, которое может возникнуть у пользователя после совета ИИ, может стоить жизни. Ведь если человек решит, что «всё нормально», и не вызовет скорую, время будет упущено. OpenAI, в свою очередь, заявляет, что продолжает совершенствовать модель. Но этот инцидент поднимает более глубокий вопрос: готовы ли мы доверять своё здоровье алгоритмам, которые не могут отличить инфаркт от переутомления?

Проблемы с точностью медицинских ИИ-советов отмечены и у других сервисов. Это говорит о том, что вся индустрия пока не готова к такой ответственности. Слишком много факторов нужно учесть: анамнез, лекарства, возраст, сопутствующие симптомы. Искусственный интеллект пока не способен на системное мышление, которое есть у врачей. Поэтому рекомендация остаётся прежней: ИИ может быть полезен как дополнительный инструмент, но никогда не должен заменять профессиональную медицинскую консультацию. А пока мы с вами должны понимать: если чат-бот сказал «не переживайте», это не значит, что можно не вызывать скорую. Лучше лишний раз перестраховаться, чем довериться цифровому диагносту. Ведь здоровье — это не та область, где можно экспериментировать.

Читайте также: