Учёные из РАН применили логические автоматы для объяснимого ИИ
2025-07-12 20:03:00
Можно ли доверять алгоритму, если никто — даже разработчик — не понимает, как он принимает решения? Сегодня это главный вызов для большинства ИИ-систем, построенных по принципу "чёрного ящика".
Но российские учёные нашли альтернативу.
Прозрачность против загадочности
Большинство современных ИИ работают по сложным схемам, где внутренние процессы недоступны для анализа. Пользователь вводит данные — получает результат, но не знает, почему именно такой. Это затрудняет адаптацию, диагностику ошибок и ставит под угрозу безопасность.
Подробнее https://www.pravda.ru/news/s...