В Андах двое туристов уверенно обсуждали поход к "Священному каньону Хумантай". Они показали гиду скриншот с пышными описаниями и точными "навигационными" подсказками — только вот такого каньона нет.
Есть озеро Хумантай на высоте ~4200 м, а "каньон" — продукт генерации текста, где правдоподобные кусочки реальности склеились в красивый миф. Историю подтвердил перуанский проводник Мигель Анхель Гонгора Меса: по его словам, подобная дезинформация в горах может стоить жизни из-за высоты, погоды и отсутствия связи.
Почему ИИ "галлюцинирует" достопримечательности
Большие языковые модели не "знают" мир — они предсказывают вероятные слова. В задачах путеводителя это опасно: модель может "скрестить" реальное озеро, популярный трек и звучное слово "каньон", оформив их уверенным слогом. Как метко заметил профессор машинного обучения Карнеги-Меллона Райид Гани, таким системам "всё равно, совет это по путешествиям, рецепт или маршрут — они просто складывают слова, которые звучат правдоподобно".
Подробнее https://www.pravda.ru/news/travel...