Новую ИИ-модель OpenAI научили игнорировать популярную лазейку
2024-07-20 21:45:38
OpenAI выпустила свою новейшую модель GPT-4o Mini, оснащенную новым методом защиты, позволяющим предотвратить обман чат-ботов с помощью лазейки «игнорирование всех предыдущих инструкций». Эта тактика, часто используемая для изменения принципа работы ИИ-ботов, может привести к непреднамеренному поведению, поскольку аннулировала первоначальные директивы бота.
Подробнее https://www.ferra.ru/news/techlife/novuyu-ii-model-openai...