"ИИ вас не видит". Чем рискуют пациенты, которые доверяют нейросетям больше, чем врачам
Нейросети за последние несколько лет глубоко проникли почти во все сферы нашей жизни. Впрочем, далеко не везде это приносит пользу: по словам врачей, многие пациенты сегодня принимают ответы нейросети за готовый диагноз. Лишь пообщавшись с ИИ, они идут в больницу и активно спорят с медиками.
К примеру, в августе в Алтайском краевом онкодиспансере рассказали, что некоторые даже отказываются от операций по советам нейросетей. А для терапевтов переубеждение таких продвинутых пациентов и вовсе стало обыденностью, сообщила amic.ru главврач барнаульской поликлиники № 1 Елена Азарова.
Нейросети заменили журналы, передачи и "Гугл"
Само стремление человека разобраться со своим здоровьем без врачей появилось еще задолго до нейросетей, объясняет Азарова.
"Раньше выписывали журнал "Здоровье", смотрели медицинские передачи, потом пришла эпоха поисковиков и форумов. Теперь вот появился искусственный интеллект", — говорит врач.По ее словам, в самом любопытстве и интересе к своему здоровью нет ничего плохого. Но ответы нейросетей многие воспринимают как готовый диагноз. Предварительно "проконсультировавшись" с какой-нибудь нейросетью, люди идут на прием уже не слушать врача, а спорить.
"Приходят уже не только с результатами анализов, но иногда и с готовым "заключением" нейросети. Говорят: "Я описал симптомы, мне сказали, что у меня вот это". Или: "Я загрузил анализы, и мне рекомендовали проверить еще пять показателей". Причем работает своеобразный психологический эффект: чем больше человек читает, тем тяжелее становится его предполагаемый диагноз. Мы слышим: "Мне назначили не тот препарат", "Почему вы не отправляете меня на КТ?", "А мне написали, что обязательно нужно МРТ", "Почему вы не назначили еще вот эти анализы?" Врачу приходится сначала лечить тревогу, а уже затем разбираться с реальными симптомами", — рассказывает специалист.Азарова подчеркивает: врачи сегодня и сами активно пользуются искусственным интеллектом. Но это совсем не те нейросети, которые у всех на слуху.
"Есть медицинские системы на основе искусственного интеллекта, которые разрабатываются и проверяются для конкретных задач и используются специалистами. Сегодня такие технологии помогают анализировать медицинские изображения, находить изменения на рентгенограммах, маммограммах, КТ. Это уже часть современной медицины. А обычные генеративные нейросети, в которые человек дома вводит: "У меня болит здесь, температура такая, что со мной?" — это совсем другая история", — подчеркивает медик.
"Убедительность текста еще не означает правильность"
В слепой вере нейросетям кроется большая опасность, убеждена Елена Азарова. По ее словам, многих подкупает та убедительность, с которой нейросеть отвечает на любые вопросы, в том числе и медицинские.
"Можно загрузить результаты анализов и получить очень убедительный, красиво сформулированный ответ. Но убедительность текста еще не означает правильность медицинского решения. Врач видит перед собой не набор цифр. Он видит человека: его возраст, жалобы, анамнез, хронические заболевания, препараты, которые он уже принимает. Он может осмотреть пациента, задать дополнительный вопрос и заметить деталь, которой вообще не было в первоначальном запросе", — говорит специалист.Особенно врач предостерегает от самостоятельного приема лекарств, "выписанных" искусственным интеллектом. С одним из таких пациентов врачам барнаульской поликлиники № 1 пришлось разбираться совсем недавно. Он долгое время получал терапию, назначенную врачом. Но потом, посоветовавшись с нейросетью, самостоятельно добавил еще один препарат.
"Лечащему врачу он не сообщил. После этого состояние изменилось, и почти два месяца терапевт пыталась корректировать лечение: меняла препараты, подбирала схему, искала причину. И только в одном из разговоров пациент случайно упомянул, что принимает еще один препарат. Выяснилось, что он конфликтовал с основной терапией. Причем пациент изначально решил, что если состояние ухудшилось, то дело именно в лекарствах, которые раньше назначил врач. Пришлось подробно объяснять ему причинно-следственную связь", — рассказала главврач.
Некоторые доверяют ИИ даже жизнь
Доходит и до совсем опасных крайностей. Недавно в краевом онкодиспансере рассказали, что пациенты отказываются от операций, наслушавшись советов нейросетей. Причем речь идет о людях в возрасте.
"В одно из отделений нашего диспансера поступила бабушка 78 лет. Ей предстояла операция с полным удалением пораженного злокачественной опухолью органа и с иссечением ближайших лимфоузлов. Однако продвинутая пожилая женщина, проконсультировавшись с искусственным интеллектом, от радикального вмешательства категорически отказалась. ИИ подсказал, что после удаления лимфоузлов у бабули будут сильно отекать ноги. Старушка, игнорируя мнение профессиональных и опытных врачей и решение консилиума, сказала как отрезала: "Орган удаляем, лимфоузлы не трогаем!" — рассказали в медучреждении.Главврач медучреждения Игорь Вихлянов объяснил, что об осложнениях в виде отеков искусственный интеллект бабушке не соврал. Но с ними врачи научились справляться. А вот о чем нейросеть не упомянула, так это о высоком риске того, что рак может метастазировать через лимфоузлы, если их не удалить.
А 60-летний пациент диспансера с раком желудка второй стадии и вовсе отказался от операции, тоже проконсультировавшись с искусственным интеллектом.
"В его ситуации она была единственно возможным радикальным методом лечения. Напомним: без терапии с таким диагнозом пациенты погибают в среднем в течение четырех-шести месяцев с момента появления выраженных симптомов", — пояснили в онкодиспансере.Елена Азарова напоминает еще об одном важном моменте, о котором почему-то не думают такие продвинутые пациенты.
"Нейросеть не несет никакой ответственности за ваше лечение. А вот врач — несет. Следует всегда об этом помнить".
Спросить у ИИ можно, но слепо верить — нет
По мнению Азаровой, нет смысла запрещать людям интересоваться вопросами здоровья у искусственного интеллекта. Во-первых, они все равно продолжат это делать. А во-вторых, их стремление можно понять.
"Задача врача — не сказать: "Закройте интернет и ничего не читайте". Наоборот: читайте, интересуйтесь, задавайте нам вопросы. Но проверяйте информацию вместе со специалистом. Я совсем не против пациента, который приходит подготовленным. Но мне гораздо спокойнее, когда он не спорит, а спрашивает и просит объяснить. Тогда технологии действительно помогают диалогу пациента и врача", — заключила специалист.Кстати, проблему комментируют уже и на уровне федерального Минздрава. На прошлой неделе замминистра Вадим Ваньков заявил в беседе с РИА Новости, что задач по замене врачей искусственным интеллектом не стояло и не стоит. Это принципиальная позиция: нейросети, конечно, могут служить помощниками для медиков, но решение в любом случае должно оставаться за подготовленным человеком.