Сем Альтман попереджає, що використання ChatGPT як терапевта не гарантує юридичної конфіденційності

Користувачам ChatGPT варто двічі подумати, перш ніж звертатися до свого застосунку зі штучним інтелектом для терапії чи інших видів емоційної підтримки.

За словами генерального директора OpenAI Сема Альтмана, індустрія штучного інтелекту ще не зрозуміла, як захистити конфіденційність користувачів, коли йдеться про ці більш делікатні розмови, оскільки немає конфіденційності між лікарем і пацієнтом, коли ваш лікар — це штучний інтелект.

У відповідь на запитання про те, як штучний інтелект працює в сучасній правовій системі, Альтман сказав, що однією з проблем відсутності правової чи політичної бази для ШІ є відсутність юридичної конфіденційності розмов користувачів.

«Люди розповідають про найособистіші речі у своєму житті через ChatGPT», – сказав Альтман. «Люди використовують його – особливо молодь – як терапевт, лайф-коуч; мають ці проблеми у стосунках і запитують: «Що мені робити?» І зараз, якщо ви розмовляєте з терапевтом, адвокатом чи лікарем про ці проблеми, на це поширюється юридична таємниця. Існує конфіденційність між лікарем і пацієнтом, є юридична конфіденційність тощо. І ми ще не з’ясували, як це працює, коли ви розмовляєте з ChatGPT».

Альтман додав, що це може створити проблеми з конфіденційністю користувачів у разі судового позову.

«Я вважаю, що це дуже неправильно. Я думаю, що у нас має бути така ж концепція конфіденційності для ваших розмов зі штучним інтелектом, як і з терапевтом чи кимось іншим — і нікому не доводилося думати про це навіть рік тому», — сказав Альтман.

Компанія розуміє, що відсутність конфіденційності може перешкоджати ширшому впровадженню користувачами. Окрім вимоги штучного інтелекту щодо великої кількості онлайн-даних протягом навчального періоду, його просять надати дані з чатів користувачів у деяких юридичних контекстах. OpenAI вже бореться із судовим наказом у своєму позові проти The New York Times, який вимагатиме від нього збереження чатів сотень мільйонів користувачів ChatGPT у всьому світі, за винятком чатів клієнтів ChatGPT Enterprise.

У заяві на своєму вебсайті OpenAI заявила, що оскаржує це рішення, яке назвала «перевищенням службових обов'язків». Якби суд зміг скасувати власні рішення OpenAI щодо конфіденційності даних, це могло б відкрити для компанії можливість подальших вимог щодо юридичного розкриття інформації або для правоохоронних цілей. Сьогоднішні технологічні компанії регулярно отримують повістки про надання даних користувачів, щоб допомогти у кримінальному переслідуванні.