Яндекс создал сервис для запуска ИИ на смартфоне и ПК с экономией на мощностях
2024-12-09 11:05:00
Владимир Малиновский, исследователь из научного отдела Яндекса, разработал сервис для запуска большой языковой модели (LLM) с 8 млрд параметров на обычных компьютерах и смартфонах. Это решение позволяет значительно сократить расходы на вычислительные мощности, что делает использование нейросетей более доступным для корпораций, стартапов и исследователей. Исходный код проекта был опубликован на GitHub и доступен в открытом доступе.
Подробнее https://www.ferra.ru/news/v-rossii/yandeks-sozdal-servis-dlya-zapu...