66 млн американцев уже спрашивают ИИ о здоровье

Проблема тут не только в галлюцинациях, хотя они и так вездесущи. Модели слишком быстро хватаются за один ответ, вместо того чтобы держать в голове несколько диагнозов, а именно так и работает нормальная клиническая логика. Человек в белом халате не обязан быть всемогущим, но у него хотя бы есть привычка сомневаться. У чат-бота она часто отсутствует. Что показало исследование JAMA Network Open Исследователи дали моделям реалистичные

симптомы, которые мог бы описать обычный пациент, и посмотрели, как те будут «играть в врача». На задачах с расплывчатыми признаками ИИ спотыкался чаще 80% времени. Даже когда к описанию добавляли данные осмотра и результаты анализов, ошибки оставались примерно в 40% случаев. Это неприятно еще и потому, что рынок давно продает ИИ

как дешевого медицинского советчика на каждый день. В реальности он пока больше похож на уверенного собеседника, чем на помощника, которому можно доверить разбор сыпи, внезапного кашля или чего-то еще, где промах стоит не денег, а здоровья. Почему американцы идут к чат-ботам вместо врача Опрос West Health-Gallup Center on Healthcare in America показывает скучную, но важную причину: медицина в США для многих слишком дорогая, неудобная или просто

недоступная по времени. 27% респондентов сказали, что не хотели платить за визит к врачу, 14% прямо не могли себе его позволить, а часть людей просто не находила времени или возможности дойти до клиники. И вот здесь у ИИ возникает его мрачная ниша. 14% тех, кто спрашивал его о здоровье, сказали, что не обратились бы к врачу даже в противном случае. Это уже не игра в поиск информации, а подмена системы, которая и без того работает на износе. Бот

не лечит, но успокаивает. Иногда этого достаточно, чтобы человек ничего больше не сделал. Почему опасна уверенность без точности Самое коварное здесь не то, что ИИ ошибается. Куда хуже, что он часто звучит убедительно даже тогда, когда несет ерунду. Почти половина опрошенных сказала, что разговор с чат-ботом помог им чувствовать себя увереннее при общении с врачом, 22% отметили, что так им якобы проще было заметить проблему раньше, а 19% увидели в этом способ

избежать лишних обследований. При этом треть пользователей, обращавшихся к ИИ за медицинской помощью, ему не доверяют, а 10% получили потенциально небезопасный совет. В этой комбинации и кроется вся нынешняя магия отрасли: модель может быть одновременно и полезной шпаргалкой, и опасным источником ложной уверенности. Для здравоохранения

это не футуризм, а вполне приземленный риск, который уже расползается по стране. Регуляторы в такой ситуации обычно просыпаются последними, но давление на них уже накапливается. Чем больше людей используют чат-боты вместо первичного контакта с врачом, тем меньше у отрасли остается права делать вид, что это просто «удобный интерфейс» и не проблема общественного здоровья.

66 млн американцев уже спрашивают ИИ о здоровье

Сообщает itzine.ru

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

10:00, 04 Июл В мире: Юбилей США не радует даже американцев США празднуют 250-летний юбилей в ужасном настроении. Только половина американцев испытывают гордость за родину, хотя в 2013 году таких было 82%. Тем...

04:00, 23 Авг Неделя в засаде. Ловкий маневр ВС РФ в зоне СВО унизил «американцев» Российские операторы БПЛА неделю выслеживали американскую самоходную установку 155-мм калибра, чтобы ее уничтожить. Об этом агентству ТАСС рассказал ...

Кто управляет Ираном Предательский удар обернулся против американцев 03:00, 23 Апр «Кто управляет Ираном?» Предательский удар обернулся против американцев Переговоры США и Ирана закончились, не начавшись, потому что иранцы даже не захотели разговаривать с американскими представителями. Можно ли было ожи...

11:00, 26 Июл Экс-глава Пентагона: США скрывают от американцев цену войны с Ираном Бывший министр обороны США и экс-директор ЦРУ Леон Панетта раскритиковал Пентагон, обвинив его в недостаточной прозрачности при освещении последствий...

06:00, 21 Июл Госдеп призвал американцев на Ближнем Востоке готовиться к отмене рейсов США призывают своих граждан, находящихся на Ближнем Востоке, быть готовыми к возможной отмене рейсов, закрытию воздушного пространства, заявили в гос...

06:00, 21 Апр Как быстро переваривается еда, и что это говорит о вашем здоровье Время между едой и походом в туалет может многое рассказать о здоровье Оказывается, то, как быстро еда проходит через кишечник, сильно влияет на бакт...

11:00, 19 Апр Большинство американцев не доверяет роботакси: опрос показал устойчивый страх перед автономными авто Даже при «100% безопасности» люди выбирают водителя — рынок автономных перевозок упирается в доверие, а не в технологииНовый опрос, проведённый групп...

13:00, 03 Май От снегопадов к теплу: как перепады погоды влияют на здоровье В это трудно поверить, но уже в середине следующей недели, во вторник и среду, в Европейской части России наступит лето: ожидается до плюс 20-22. А п...

09:00, 30 Июл Растительные белки могут укреплять здоровье кишечника Устойчивые к перевариванию растительные белки могут благоприятно влиять на кишечную микрофлору наряду с пищевыми волокнами. К такому выводу пришли уч...

04:00, 14 Май Высадка американцев на Луну откладывается. NASA изменила план миссии Artemis III: вместо Луны — орбитальная репетиция Все произойдет на низкой околоземной орбитеNASA уточнила концепцию Artemis III — следующей пилотируемой миссии программы Artemis. На этот раз полет б...

09:00, 07 Авг Ученые назвали продукт, улучшающий память и здоровье мозга Регулярное употребление орехов может быть связано с более высокими когнитивными показателями, особенно у людей с низкой физической активностью и не с...

17:00, 04 Авг «Он устал жить»: Волочкова из последних сил борется за здоровье отца Анастасия Волочкова, которая всегда умела находить плюсы в любой ситуации, сейчас переживает тяжелое время. Ее любимый отец, чемпион Советского Союза...

17:00, 26 Апр Белоснежная улыбка не гарантирует здоровье зубов. Вот что говорят стоматологи Белые зубы это не всегда показатель здоровья Белоснежная улыбка давно стала символом здоровья и успеха. Не верите? А посмотрите на рекламу и социальн...

20:00, 24 Апр Сидячая работа убивает здоровье: вот простой способ защиты Недостаток физической активности сильно вредит вашему здоровью. Эксперт рассказывает о простом способе снизить риски. Источник изображения: healthand...

15:00, 26 Авг Храп — не просто громкий звук: как нарушения сна влияют на здоровье Признайтесь честно – вы хорошо высыпаетесь? Ведь от качества сна зависят внимание, память, настроение, скорость реакции. Для водителя это особенно ва...

11:00, 20 Май Больше специй и никаких коктейлей со льдом: как туристу сохранить здоровье в тропиках Тропический рай — это не только рекламные постеры, но и минное поле из невидимых угроз. Пока вы ищете лучший пляжный курорт, ваш организм готовится к...

10:00, 19 Июл Алена Аршинова предложила запустить в Тверской области проект «Здоровье Верхневолжья» На встрече Виталием Королёвым Алёна Аршинова предложила к реализации социальные проекты. Первый касается регионального здравоохранения. «Для нас важн...

01:00, 02 Июл Россия победила США в товарищеском матче в Москве – 10:6. Играли Фетисов, Ротенберг, Панарин, Никишин, Радулов, Марченко и Сергачев, состав американцев не объявляли В олимпийском комплексе «Лужники» прошел товарищеский матч между сборными России и США. Игра была организована торгово-промышленными палатами двух ст...

20:00, 20 Апр Как замедлить старение и укрепить здоровье: полезные привычки, действенные методы китайской медицины В современных реалиях красота и здоровье неразрывно связаны друг с другом. Сейчас многие люди стремятся продлить молодость и обрести крепкое здоровье...

12:00, 15 Май Более 70% американцев выступают против строительства ЦОД для ИИ рядом со своими домами: они бы лучше предпочли жить рядом с АЭС Опубликовано исследование GallupАмериканцы выступили против строительства дата-центров для искусственного интеллекта рядом со своими домами: согласно...

15:00, 12 Июн Сбой в матрице отменяется: этот скрытый тест в голове доказывает абсолютное здоровье человека Представьте, что вы заходите в кафе, где никогда не были, и внезапно — бац! — вы точно знаете, какой здесь запах, как скрипит стул и что официант сей...

03:00, 24 Апр Шесть шагов успеха: «Ростелеком» подвел итоги пилотного проекта по внедрению цифровой платформы «Здоровье» «Ростелеком» завершил успешное тестирование цифровой платформы «Здоровье», разработанной дочерней компанией «РТК-Платформа здоровья». С помощью техно...

19:00, 05 Май Хедман о том, что пропустил часть сезона: «Решил сосредоточиться на психическом здоровье. Сегодня чувствую себя лучше. Горжусь командой и с нетерпением жду того, что будет впереди» Капитан «Тампы» Виктор Хедман сообщил, что пропустил часть сезона по причинам, связанным с психическим здоровьем. 35-летний хоккеист не играет с 20 м...

23:00, 13 Авг Антон Глинкин: «Советую спортсменам инвестировать в свое здоровье – дольше будешь на высоком уровне и больше заработаешь. Еще – расширять кругозор, учиться чему-то вне спорта» Бывший нападающий «Трактора» Антон Глинкин в интервью Спортсу’’ дал совет молодым спортсменам. «Я бы советовал спортсменам инвестировать в свое здоро...