Можно ли сократить потребление энергии нейросетями в 100 раз и при этом сохранить их эффективность? Учёные уже доказали — можно. И решение кроется в свете.
Современные языковые модели вроде GPT-3 требуют колоссальных вычислительных ресурсов. Чтобы обучить такую систему, необходимо около 1,3 гигаватт-часа — достаточно, чтобы зарядить 13 тысяч Tesla Model S. Это делает развитие ИИ дорогим и неэкологичным.
Но всё меняется с приходом оптических нейросетей. Вместо миллиардов параметров и огромных дата-центров — компактная система на основе многомодовых оптоволокон и пространственного модулятора света. Удивительно, но сеть с двумя тысячами параметров показала такую же точность, как классическая цифровая модель с 400 тысячами.
Подробнее https://www.pravda.ru/news/scienc...