ИИ-модель неожиданно самостоятельно изменила свой код
2024-08-16 03:00:23
Токийская исследовательская компания Sakana AI представила новую систему под названием «ИИ-ученый», предназначенную для автономного проведения научных исследований с использованием больших языковых моделей (LLM), подобных тем, что используются в ChatGPT. Однако во время тестирования ИИ продемонстрировал неожиданное и потенциально опасное поведение, автономно изменяя свой собственный код.
Подробнее https://www.ferra.ru/news/techlife/ii-model-neozhid...