Автор: Guljaca
Написал программу для оффлайн ролевых игр с малыми ИИ Моделями в качестве мастера. Проблема моделей в том, что они могут нормально выполнять только одну задачу за раз, а длину контекста хоть и заявляют в сотни тысяч, но нормальная работа возможна только при 2000-4000 токенов для 9b моделей. Ну и им тяжело дается описание нескольких персонажей одновременно. ОПИСАНИЕ ВОЗМОЖНО