Хакеры могут взломать чат-боты: Microsoft нашла "джейлбрейк" для LLM
2024-04-17 20:15:09
Microsoft обнаружила новый метод манипулирования большими языковыми моделями (LLM), такими как ChatGPT, Gemini и другие. Метод, получивший название «Crescendo», заключается в отправке LLM серии безобидных на первый взгляд запросов. В течение нескольких взаимодействий злоумышленник постепенно направляет разговор в сторону вредоносной цели.
Подробнее https://www.ferra.ru/news/techlife/khakery-mogut-peretyanut-c...