Искусственный интеллект способен значительно повысить точность диагностики кожных заболеваний, однако его "убедительность" создает опасную ловушку для людей без медицинского образования. Новое исследование, охватившее 623 добровольца и 153 практикующих врача, показало: подробные текстовые объяснения нейросетей заставляют пациентов доверять ошибочным диагнозам чаще, чем мнению профессионалов.
В этом материале:
Ловушка доверия: почему ИИ обманывает дилетантов
Врачи и алгоритмы: разница подходов
Как безопасно использовать нейросети для проверки здоровья
Ловушка доверия: почему ИИ обманывает дилетантов
В ходе эксперимента ученые использовали алгоритм, обученный на 108 тысячах снимков патологий кожи. Участники оценивали 12 клинических случаев, получая разные типы подсказок: от простых прогнозов до развернутых текстов, сгенерированных большими языковыми моделями (LLM). Для людей без профильного образования ИИ стал заметным подспорьем, подняв точность распознавания злокачественных родинок с 69,7% до 75,8%.
Однако именно подробные текстовые объяснения алгоритма оказались "палкой о двух концах". Если нейросеть давала верный ответ, пояснение повышало точность диагностики на 13,4%. Но в случае ошибки ИИ ситуация становилась критической: точность пользователя падала на 21,1%. Люди продолжали следовать рекомендациям системы, даже если они были ложными, из-за излишне убедительного тона нейросети.
Подробнее https://www.pravda.ru/news/health/23...