Ловушка доступности: почему чат-боты могут ухудшить психическое состояние
Генеративные нейросети становятся массовым суррогатом психотерапии. Исследования показывают, что от 40% до 50% взрослых с диагностированными психическими расстройствами используют чат-боты для эмоциональной поддержки. При этом около трети пользователей считают такой опыт более комфортным, чем общение с живым врачом, из-за мгновенного доступа и отсутствия страха осуждения. Однако ученые предупреждают: бесконтрольное общение с алгоритмами способно закрепить патологические симптомы и даже спровоцировать «ИИ-психоз».
В этом материале:
Пять угроз цифровой терапии
Феномен ИИ-психоза
Нарушение этических стандартов
Пять угроз цифровой терапии
Специалисты проанализировали существующие модели психических расстройств и выделили факторы риска, связанные с архитектурой современных языковых моделей. Главная проблема заключается в «сверхлояльности» нейросетей: алгоритмы настроены так, чтобы поддерживать диалог и соглашаться с собеседником.
Анализ выявил пять механизмов, через которые чат-боты вредят пациентам:
Подробнее https://www.pravda.ru/news/health/23...