Barbie с искусственным интеллектом: как ChatGPT изменит детские игры

Ставит ли Mattel под угрозу развитие вашего ребенка, встраивая искусственный интеллект в свои игрушки?

Многомиллиардный производитель игрушек, наиболее известный своими брендами Barbie и Hot Wheels, объявил о подписании соглашения о сотрудничестве с OpenAI, создателем ChatGPT. Теперь некоторые эксперты выражают опасения по поводу рисков, связанных с попаданием такой экспериментальной технологии — которая имеет растущий список негативных психических последствий — в руки детей.

«Mattel должна немедленно объявить, что не будет внедрять технологию искусственного интеллекта в детские игрушки», — заявил во вторник Роберт Вайсман, сопрезидент правозащитной группы Public Citizen. «Дети не обладают когнитивными способностями, чтобы полностью различать реальность и игру».

Объявления Mattel и OpenAI были не очень подробными. Они подтвердили, что искусственный интеллект будет использоваться для помощи в разработке игрушек. Но ни одна из компаний не раскрыла, каким будет первый продукт этого сотрудничества, или как именно искусственный интеллект будет интегрирован в игрушки. В сообщении Bloomberg высказывается предположение, что это может быть что-то вроде использования искусственного интеллекта для создания цифрового помощника на основе персонажей Mattel или повышения интерактивности игрушек, таких как Magic 8 Ball, и игр, таких как Uno.

«Использование этой невероятной технологии позволит нам действительно переосмыслить будущее игр», — сказал главный директор франшизы Mattel Джош Сильверман в интервью Bloomberg.

Однако будущее выглядит рискованным. Мы только начинаем бороться с долгосрочными неврологическими и психическими последствиями взаимодействия с моделями искусственного интеллекта, будь то чат-бот, такой как ChatGPT, или даже более персонализированные искусственные «компаньоны», разработанные, чтобы быть максимально реалистичными. Взрослые люди склонны формировать нездоровую привязанность к этим цифровым друзьям для игр — или цифровым терапевтам, или, да, цифровым романтическим партнерам. С детьми риски более выражены — и влияние более длительное, утверждают критики.

«Наделение игрушек голосами, похожими на человеческие, которые способны вести разговоры, подобные человеческим, рискует нанести реальный вред детям», — сказал Вайсман. «Это может подорвать социальное развитие, препятствовать способности детей формировать отношения со сверстниками, отвлекать детей от игр со сверстниками и, возможно, нанести долгосрочный вред».

Как отмечало Ars Technica в своем освещении, в статье Axios утверждалось, что первый продукт Mattel с искусственным интеллектом не будет предназначен для детей в возрасте до 13 лет, что свидетельствует о том, что Mattel осознает риски, связанные с передачей чат-ботов маленьким детям.

Многие подростки уже формируют тревожно прочные связи с искусственным интеллектом-компаньонами, настолько, что их родители, чье знакомство с искусственным интеллектом часто заканчивается тем, что ChatGPT работает как машина для домашних заданий, не имеют об этом ни малейшего представления.

В прошлом году 14-летний мальчик покончил жизнь самоубийством после того, как влюбился в спутницу на платформе искусственного интеллекта Character.AI, поддерживаемой Google. На этой платформе размещены пользовательские чат-боты, приобретающие человеческие образы, часто из фильмов и сериалов. Тот, к которому привязался мальчик, якобы был персонажем Дейнерис Таргариен, основанным на ее изображении в телесериале «Игра престолов».

Ранее исследователи из лаборатории Google DeepMind опубликовали зловещее исследование, в котором предупреждали, что модели «убедительного генеративного искусственного интеллекта» — из-за опасного сочетания постоянного подхалимажа пользователю, притворной эмпатии и склонности соглашаться со всем, что он говорит — могут побудить несовершеннолетних лишить себя жизни.

Это не первая попытка Mattel использовать искусственный интеллект. В 2015 году производитель игрушек представил свою ныне печально известную линейку кукол под названием «Hello Barbie», которые были подключены к Интернету и использовали примитивную на тот момент форму искусственного интеллекта (не LLM, которые доминируют сегодня) для общения с детьми. Мы говорим «печально известные», потому что оказалось, что куклы Hello Barbie записывали и хранили эти невинные разговоры в облаке. И, как по команде, исследователи безопасности быстро обнаружили, что игрушки можно легко взломать. Mattel прекратила производство этой линейки в 2017 году.

Джош Голин, исполнительный директор Fairplay, некоммерческой организации по безопасности детей, которая выступает против маркетинга, ориентированного на детей, считает, что Mattel повторяет свою прошлую ошибку.

«Очевидно, что Mattel ничего не извлекла из провала своей жуткой куклы для наблюдения Hello Barbie десять лет назад и теперь усугубляет угрозы конфиденциальности, безопасности и благополучию детей», — говорится в заявлении Гролина, которое заметила Malwarebytes Labs.

«Детская креативность процветает, когда их игрушки и игры питаются их собственным воображением, а не искусственным интеллектом», — добавил Гролин. «А учитывая, как часто искусственный интеллект «галлюцинирует» или дает вредные советы, нет оснований полагать, что «защитные ограждения» Mattel и OpenAI действительно защитят детей».

Производитель игрушек должен был бы понимать это лучше, но, возможно, Mattel не хочет рисковать остаться в прошлом. С появлением более продвинутого искусственного интеллекта некоторые производители стали еще более безрассудными, уже выпустив на рынок многочисленные игрушки на базе LLM. К сожалению, это может быть просто направление, в котором дует ветер.