66 млн американцев уже спрашивают ИИ о здоровье

Проблема тут не только в галлюцинациях, хотя они и так вездесущи. Модели слишком быстро хватаются за один ответ, вместо того чтобы держать в голове несколько диагнозов, а именно так и работает нормальная клиническая логика. Человек в белом халате не обязан быть всемогущим, но у него хотя бы есть привычка сомневаться. У чат-бота она часто отсутствует. Что показало исследование JAMA Network Open Исследователи дали моделям реалистичные

симптомы, которые мог бы описать обычный пациент, и посмотрели, как те будут «играть в врача». На задачах с расплывчатыми признаками ИИ спотыкался чаще 80% времени. Даже когда к описанию добавляли данные осмотра и результаты анализов, ошибки оставались примерно в 40% случаев. Это неприятно еще и потому, что рынок давно продает ИИ

как дешевого медицинского советчика на каждый день. В реальности он пока больше похож на уверенного собеседника, чем на помощника, которому можно доверить разбор сыпи, внезапного кашля или чего-то еще, где промах стоит не денег, а здоровья. Почему американцы идут к чат-ботам вместо врача Опрос West Health-Gallup Center on Healthcare in America показывает скучную, но важную причину: медицина в США для многих слишком дорогая, неудобная или просто

недоступная по времени. 27% респондентов сказали, что не хотели платить за визит к врачу, 14% прямо не могли себе его позволить, а часть людей просто не находила времени или возможности дойти до клиники. И вот здесь у ИИ возникает его мрачная ниша. 14% тех, кто спрашивал его о здоровье, сказали, что не обратились бы к врачу даже в противном случае. Это уже не игра в поиск информации, а подмена системы, которая и без того работает на износе. Бот

не лечит, но успокаивает. Иногда этого достаточно, чтобы человек ничего больше не сделал. Почему опасна уверенность без точности Самое коварное здесь не то, что ИИ ошибается. Куда хуже, что он часто звучит убедительно даже тогда, когда несет ерунду. Почти половина опрошенных сказала, что разговор с чат-ботом помог им чувствовать себя увереннее при общении с врачом, 22% отметили, что так им якобы проще было заметить проблему раньше, а 19% увидели в этом способ

избежать лишних обследований. При этом треть пользователей, обращавшихся к ИИ за медицинской помощью, ему не доверяют, а 10% получили потенциально небезопасный совет. В этой комбинации и кроется вся нынешняя магия отрасли: модель может быть одновременно и полезной шпаргалкой, и опасным источником ложной уверенности. Для здравоохранения

это не футуризм, а вполне приземленный риск, который уже расползается по стране. Регуляторы в такой ситуации обычно просыпаются последними, но давление на них уже накапливается. Чем больше людей используют чат-боты вместо первичного контакта с врачом, тем меньше у отрасли остается права делать вид, что это просто «удобный интерфейс» и не проблема общественного здоровья.

Сообщает itzine.ru

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью:

 

Топ Новости Недели

• Профессиональное онлайн-образование в Московском Институте Психологии становится удобным и современным способом получить востребованную специальность...
• Профессиональное онлайн-образование в Московском Институте Психологии представляет собой современный и удобный формат получения знаний, который помогает совмещать обучение с другими жизненными задачами...
• При оформлении займа важно внимательно изучать условия договора и рассчитывать финансовую нагрузку...
• Уборка квартир с привлечением профессиональных клининговых услуг является удобным и эффективным решением для поддержания чистоты, уюта и порядка в жилом пространстве...
• Гараж из сэндвич панелей представляет собой современное и практичное решение для владельцев автомобилей...
• Займ на 3 дня без процентов — это удобное решение для краткосрочных финансовых задач...
• Давака представляет собой удобный и эффективный инструмент для получения краткосрочной финансовой поддержки...
• Настольные ПК остаются универсальным решением для самых разных задач — от повседневной работы до профессиональной деятельности и современных игр...
• Имплантация зубов является оптимальным решением при различных формах потери зубов...
• Запчасти Dongfeng играют важную роль в поддержании надежности и эффективности коммерческого транспорта...
• Бурение колодцев в Московской области является важным этапом в организации автономного водоснабжения...
• Современный рынок электронной коммерции и оптовой торговли в России активно развивается, и качественная логистика становится ключевым фактором успеха...
• Онлимед представляет собой современное решение для закупки медицинских товаров, объединяющее удобство, надежность и широкий ассортимент...
• Стеклофибробетон представляет собой эффективное решение для оформления фасадов, объединяя в себе прочность, легкость, долговечность и эстетическую выразительность...
• Выбор стоматолога для ребенка требует внимательного подхода и учета множества факторов...
• Электроинструмент от ТМ EMTOP выделяется среди аналогичных продуктов на рынке благодаря своей надежности, функциональности и доступности...
• Интимная гигиена является важной частью ежедневного ухода за телом, напрямую влияя на комфорт и здоровье...
• Лечение зубов с применением современных методик художественной реставрации является эффективным решением для восстановления здоровья и красоты улыбки...
• Семяныч безопасность: почему одинаковый уход даёт разные результаты...
• Зачем лечить глубокий прикус?...