Мир искусственного интеллекта становится более прозрачным. Российские ученые разработали уникальную методику, которая позволяет управлять внутренними процессами нейросетей, особенно в области генерации текста. Этот прорыв поможет сделать системы ИИ более предсказуемыми и безопасными.
Новый подход: как управлять смыслом в ИИ
Речь идет о методе, который позволяет активировать или подавлять отдельные смысловые элементы в процессе обработки данных нейросетью. Это возможно без изменения самой модели или ее дообучения. Как подчеркивают исследователи, это особенно важно, потому что предсказать точку возникновения ошибки в модели до сих пор было крайне сложно.
Как это работает
Разработанный подход основан на разреженных автокодировщиках — специфическом типе нейросетей. Он использует концепцию графа потока признаков, представляющего собой некую карту, которая отслеживает, где, когда и как в модели появляются или исчезают важные элементы. Благодаря этому ученые получили возможность не только отслеживать, но и контролировать эти процессы.
Подробнее https://www.pravda.ru/news/science/22510...