На прошлой неделе Mattel и OpenAI объявили о партнерстве, которое обещает принести «магию искусственного интеллекта» в детские игрушки. Звучит заманчиво, но история показывает, что когда игрушки начинают слушать и говорить, все быстро идет наперекосяк.
Вспомните Hello Barbie 2015 года — куклу с распознаванием речи, которую защитники приватности окрестили «подслушивающей Барби». Она исчезла с полок после одного неудачного сезона. Немецкие власти требовали уничтожить говорящую куклу «Мою подругу Кайлу», назвав ее устройством для слежки. CloudPets закрылись после утечки детских голосовых записей к хакерам.
Сегодня индустрия снова пробует свои силы. Граймс представила плюшевую игрушку Grok с ИИ, призванную отвечать на детские вопросы и сокращать экранное время. В тестах дети сначала в восторге — игрушка запоминает их имя, — но быстро разочаровываются, когда она начинает выдавать случайные факты или не понимает простых фраз.
Проблема не только в технических сбоях. Что происходит, когда дети не могут оторваться от разговора с ИИ-игрушкой? Уже есть судебные иски от родителей, чьи дети погружались в нездоровые отношения с чат-ботами. Взрослые пишут письма о том, как разговоры с ИИ убедили их в существовании разумных машин.
OpenAI пытается решить эту проблему, создавая дружелюбных, но четко не-человеческих ассистентов. «Мы не хотим, чтобы модель выдавала себя за обладательницу собственных чувств», — говорят в компании. Но этот подход может не сработать с игрушками. Кому нужна Барби, которая изо всех сил показывает, что у нее нет души?…
/ по материалам зарубежных СМИ /
Подробнее https://whoisdutytoday.livejournal.com/125318.ht...