Из-за водяных знаков LLM могут стать уязвимее к промпт-инжектам
2026-09-25 10:30:29
Исследовательница из компании Lasso Security обнаружила, что водяные знаки SynthID-Text могут влиять на безопасность больших языковых моделей. В некоторых случаях после включения маркировки контента LLM соглашались выполнять вредоносные инструкции, которые отклоняли без SynthID. Сильнее всего этот эффект проявился при атаках с использованием промпт-инжектов.
Подробнее https://xakep.ru/2026...