Дезинформация, риск утечки конфиденциальных данных и доступ несовершеннолетних к запрещенному контенту стали главными угрозами при использовании ИИ-сервисов в России. Как выяснилось, миллионы граждан доверяют нейросетям решение критических задач, не осознавая базовых опасностей. Эксперт по безопасности ИИ UserGate Светлана Газизова в интервью изданию Газета.Ru подчеркнула, что избыточное доверие к чат-ботам уже приводит к реальным финансовым потерям и срывам планов.
Ловушка доверия и механизмы ошибок ИИ
Одной из наиболее распространенных проблем является слепая вера в точность ответов нейросетей при планировании поездок или оформлении документов. По словам Газизовой, известны случаи, когда семьи лишались отпуска и денег из-за ложных справок ИИ о визовом режиме, поскольку система задействует случайные источники без верификации их надежности. Чтобы избежать подобных инцидентов, необходимо максимально конкретизировать запросы, требуя от алгоритмов опираться исключительно на официальные государственные порталы и сайты посольств.
"Чрезмерная цифровизация общения и работы с данными требует двойного контроля, так как любая ошибка в коде или базе обучения ИИ транслируется пользователю как абсолютная истина", — подчеркнула в беседе с Pravda.Ru инженер по информационной безопасности Максим Петров.
Подробнее https://www.pravda.ru/news/society/23...