Сбер и Сколтех разработали метод выявления галлюцинаций ИИ по картам внимания
2026-09-01 16:30:00
Исследователи Центра практического искусственного интеллекта Сбера и «Сколтеха» предложили новый метод для обнаружения галлюцинаций в больших языковых моделях, работающих с внешними источниками (RAG). Разработка под названием TOHA (Topological Divergence on Attention Graphs) опубликована в материалах конференции ACL 2026. В её основе — анализ топологической структуры карт внимания модели, что позволяет выявлять недостоверные ответы без обучения дополнительных классификаторов и при минимальном объёме размеченных данных.
Подробнее https://www.ferra.ru/news/v-rossii/sber-i-skoltekh-razrabotali-met...