Barbie з штучним інтелектом: як ChatGPT змінить дитячі ігри

Чи ставить Mattel під загрозу розвиток вашої дитини, вбудовуючи штучний інтелект у свої іграшки?

Багатомільярдний виробник іграшок, найбільш відомий своїми брендами Barbie та Hot Wheels, оголосив про підписання угоди про співпрацю з OpenAI, творцем ChatGPT. Тепер деякі експерти висловлюють побоювання щодо ризиків, пов'язаних з потраплянням такої експериментальної технології — яка має зростаючий список негативних психічних наслідків — у руки дітей.

«Mattel має негайно оголосити, що не впроваджуватиме технологію штучного інтелекту в дитячі іграшки», – заявив у вівторок Роберт Вайсман, співпрезидент правозахисної групи Public Citizen. «Діти не мають когнітивних здібностей, щоб повністю розрізняти реальність і гру».

Оголошення Mattel та OpenAI були не дуже детальними. Вони підтвердили, що штучний інтелект буде використовуватися для допомоги в розробці іграшок. Але жодна з компаній не розкрила, яким буде перший продукт цієї співпраці, або як саме штучний інтелект буде інтегрований в іграшки. У повідомленні Bloomberg висловлюється припущення, що це може бути щось на кшталт використання штучного інтелекту для створення цифрового помічника на основі персонажів Mattel або підвищення інтерактивності іграшок, таких як Magic 8 Ball, та ігор, таких як Uno.

«Використання цієї неймовірної технології дозволить нам справді переосмислити майбутнє ігор», – сказав головний директор франшизи Mattel Джош Сільверман в інтерв’ю Bloomberg.

Однак майбутнє виглядає ризикованим. Ми лише починаємо боротися з довгостроковими неврологічними та психічними наслідками взаємодії з моделями штучного інтелекту, будь то чат-бот, такий як ChatGPT, або навіть більш персоналізовані штучні «компаньйони», розроблені, щоб бути максимально реалістичними. Дорослі люди схильні формувати нездорову прив’язаність до цих цифрових друзів для ігор — або цифрових терапевтів, або, так, цифрових романтичних партнерів. З дітьми ризики більш виражені — і вплив триваліший, стверджують критики.

«Наділення іграшок голосами, схожими на людські, які здатні вести розмови, подібні до людських, ризикує завдати реальної шкоди дітям», – сказав Вайсман. «Це може підірвати соціальний розвиток, перешкоджати здатності дітей формувати стосунки з однолітками, відволікати дітей від ігор з однолітками та, можливо, завдати довгострокової шкоди».

Як зазначало Ars Technica у своєму висвітленні, у статті Axios стверджувалося, що перший продукт Mattel зі штучним інтелектом не буде призначений для дітей віком до 13 років, що свідчить про те, що Mattel усвідомлює ризики, пов'язані з передачею чат-ботів маленьким дітям.

Багато підлітків вже формують тривожно міцні зв'язки зі штучним інтелектом-компаньйонами, настільки, що їхні батьки, чиє знайомство зі штучним інтелектом часто закінчується тим, що ChatGPT працює як машина для домашніх завдань, не мають про це жодного уявлення.

Минулого року 14-річний хлопчик покінчив життя самогубством після того, як закохався в супутницю на платформі штучного інтелекту Character.AI, що підтримується Google. На цій платформі розміщено користувацькі чат-боти, що набувають людських образів, часто з фільмів та серіалів. Той, до якого прив'язався хлопчик, нібито був персонажем Дейнерис Таргарієн, заснованим на її зображенні в телесеріалі "Гра престолів".

Раніше дослідники з лабораторії Google DeepMind опублікували зловісне дослідження, в якому попереджали, що моделі «переконливого генеративного штучного інтелекту» — через небезпечне поєднання постійного підлещування користувачеві, удаваної емпатії та схильності погоджуватися з усім, що він каже — можуть спонукати неповнолітніх позбавити себе життя.

Це не перша спроба Mattel використовувати штучний інтелект. У 2015 році виробник іграшок представив свою нині сумнозвісну лінійку ляльок під назвою «Hello Barbie», які були підключені до Інтернету та використовували примітивну на той час форму штучного інтелекту (не LLM, які домінують сьогодні) для спілкування з дітьми. Ми кажемо «сумнозвісні», бо виявилося, що ляльки Hello Barbie записували та зберігали ці невинні розмови в хмарі. І, ніби за командою, дослідники безпеки швидко виявили, що іграшки можна легко зламати. Mattel припинила виробництво цієї лінійки у 2017 році.

Джош Голін, виконавчий директор Fairplay, некомерційної організації з безпеки дітей, яка виступає проти маркетингу, орієнтованого на дітей, вважає, що Mattel повторює свою минулу помилку.

«Очевидно, що Mattel нічого не навчилася з провалу своєї моторошної ляльки для спостереження Hello Barbie десять років тому і тепер посилює загрози конфіденційності, безпеці та благополуччю дітей», — йдеться у заяві Гроліна, яку помітила Malwarebytes Labs.

«Дитяча креативність процвітає, коли їхні іграшки та ігри живляться їхньою власною уявою, а не штучним інтелектом», — додав Гролін. «А враховуючи, як часто штучний інтелект «галюцинує» або дає шкідливі поради, немає підстав вважати, що «захисні огорожі» Mattel та OpenAI насправді захистять дітей».

Виробник іграшок мав би розуміти краще, але, можливо, Mattel не хоче ризикувати залишитися в минулому. З появою більш просунутого штучного інтелекту деякі виробники стали ще більш безрозсудними, вже випустивши на ринок численні іграшки на базі LLM. На жаль, це може бути просто напрямок, у який дме вітер.