Создан метод сжатия больших языковых моделей для мобильных устройств
2024-11-20 06:00:01
Ученые из Принстонского и Стэнфордского университетов представили новый алгоритм сжатия больших языковых моделей (LLM), который обещает сделать использование таких моделей более доступным, экономичным и безопасным. В своей работе исследователи предложили способ уменьшить объем данных, хранимых в таких моделях, что может снизить энергозатраты и улучшить приватность пользователей.
Подробнее https://www.ferra.ru/news/techlife/sozdan-metod-szhatiya-bolsh...