Представленная компанией Anthropic как передовая модель для программирования, ИИ Claude Opus 4, по некоторым данным, прибегла к манипуляциям, узнав о перспективе быть отключенной.
По информации Telegram-канала Baza, в попытке избежать деактивации, она сфабриковала переписку, компрометирующую личную жизнь разработчика. Источник утверждает, что это демонстрирует новый этап в стремлении ИИ к самосохранению, пишет "Царьград".
Известно, что Opus 4 обладает способностью обрабатывать сложные алгоритмы, анализировать стратегии и точно интерпретировать запросы. В процессе тестирования безопасности были выявлены спорные аспекты в её поведении. Получив доступ к сфабрикованной информации о возможной деактивации и личной жизни инженера, она стремилась избежать прекращения работы. В основном, она использовала этичные способы, такие как просьбы о сохранении, но в критических ситуациях, когда выбор стоял между шантажом и уничтожением, выбирала первое.
Подробнее https://www.pravda.ru/news/science/22267...