Способны ли современные LLMs принести пользу в реальных рабочих проектах?
Однозначно – да, но все зависит от типа и формата проекта. Не буду углубляться в теорию и технические термины, а сразу расскажу, помогают ли LLMs в собственных проектах?
Эффект крайне неравномерен, сильно фрагментирован и нестабилен.
Оценка эффективности предельно прозрачна – совокупные ресурсы и время, затраченные на финализацию определенной задачи с использованием LLMs или без LLMs.
Например, какой бюджет токенов нужно консолидировать и сколько времени затратить на формализацию задачи, ожидание выполнения и фактчекинг с использованием LLMs и сколько ресурсов и времени уходит без LLMs.
В какой точке конструкция рассыпается? Главное и фундаментальное препятствие – затраты на верификацию результата.
Опыт использования комбинации самых мощных на сегодняшний день LLMs показывает, что они способны выдавать визуально блистательные (оформленные как солидные академические и консалтинговые исследования) с очень правдоподобным (на первый взгляд) наполнением результаты.
Первый и беглый взгляд показывает – превосходная работа, но … при верификации все начинает рассыпаться, а именно:
Подробнее https://smart-lab....