ИИ в медицине ошибается в 80% случаев. Почему роботы не могут заменить врачей

В последнее время в медицинской практике активно внедряется искусственный интеллект, который помогает в обработке данных, ставит первичные диагнозы и проводит диагностику. Однако, как показывают исследования, использование ИИ в медицине, особенно через чат-боты, пока не приносит надежных результатов. Чат-боты с искусственным интеллектом ошибаются в 80% случаев при постановке первичных диагнозов, что ставит под сомнение их надежность в сфере здравоохранения, сообщает Business FM (Бизнес ФМ) Барнаул.

Почему чат-боты пока не справляются с задачей?

По данным Financial Times, исследование показало, что передовые ИИ-модели, такие как ChatGPT, Claude, Gemini и DeepSeek, ошибаются более чем в 80% случаев, когда диагноз ставится на основе ограниченной информации. Даже когда данные становятся более полными, ошибки сохраняются на уровне 40%. Евгений Кураков, эксперт в сфере ИТ-решений для медицины, отметил, что основная проблема заключается не в низком уровне искусственного интеллекта, а в его неспособности правильно собирать анамнез и проводить грамотный диагностический допрос.

«Проблема не в том, что ИИ глупый, а в том, что чат-боты плохо умеют вести диагностический допрос. Они все гуманистические, некоторые будут задавать уточняющие вопросы, другие скажут, что если у тебя болит что-то, обратись к врачу. Но при правильном подходе, с данными анализов и подробным опросом, точность таких моделей возрастает до 90%», — уверен Евгений Кураков.

Помощники, а не заместители

В России ИИ в медицине в основном используется как помощник врачей. Специализированные модели, настроенные на медицинскую информацию, способны не только быстрее обрабатывать данные, но и помогать в принятии более объективных решений. Однако для этого используются модели, настроенные на официальные базы данных, а не на общедоступные чат-боты.

«Корректность выдачи результатов зависит от базы данных, на которой работает ИИ. Если это официальная медицинская база, то результаты будут точными. Такие системы помогают врачам в скорости и объективности принятия решений, но они не должны заменять медицинский диагноз», — рассказал гендиректор клиники "К+31 Запад", кандидат медицинских наук Владимир Елишев.

НОВОСТИЭкономика

В Алтайском крае запускают индустриальный парк для бизнеса. Зачем он нужен

Как ИИ помогает в диагностике?

Для понимания работы ИИ в медицине был проведен небольшой эксперимент. Используя ChatGPT и другие чат-боты, были заданы вопросы о симптомах. Например, на запрос "болит голова, слабость, заложен нос" большинство моделей ответили, что это может быть простуда, грипп или COVID-19, но добавили, что не могут ставить диагноз. Когда запрос был усложнен — "покалывания в районе сердца, темнеет в глазах", — ИИ-модели предположили различные диагнозы, такие как ортостатическая гипотония или вегетососудистая дистония, но снова подчеркнули, что такие диагнозы не могут быть поставлены без участия врача.

«Не стоит доверять ИИ-системам для постановки медицинских диагнозов. Они должны быть использованы только специалистами в рамках систем поддержки принятия врачебных решений (СППВР), а не обычными пользователями», — объяснил эксперт по ИТ-решениям в медицине Роман Душкин.

Итоги исследования показывают, что ИИ-модели, хоть и продвинулись в обработке медицинских данных, пока далеки от того, чтобы быть использованными для точной постановки диагноза. Даже с большими и более точными данными ошибки остаются на уровне 40%, и пока эти модели могут только помогать врачам в их работе, но не заменять их. Главное — всегда обращаться к специалисту.

"Это вымирающая профессия". Что алтайские журналисты думают о будущем СМИ и нейросетях

Сотрудники СМИ призывают коллег не увлекаться нейросетями и рассказывать жизненные истории об обычных людях

НОВОСТИОбщество