Сэм Альтман предупреждает, что использование ChatGPT в качестве терапевта не гарантирует юридическую конфиденциальность

Пользователям ChatGPT следует дважды подумать, прежде чем обращаться к своему приложению с искусственным интеллектом для терапии или других видов эмоциональной поддержки.

По словам генерального директора OpenAI Сэма Альтмана, индустрия искусственного интеллекта еще не поняла, как защитить конфиденциальность пользователей, когда речь идет об этих более щекотливых разговорах, поскольку нет конфиденциальности между врачом и пациентом, когда ваш врач — это искусственный интеллект.

В ответ на вопрос о том, как искусственный интеллект работает в современной правовой системе, Альтман сказал, что одной из проблем отсутствия правовой или политической базы для ИИ является отсутствие юридической конфиденциальности разговоров пользователей.

«Люди рассказывают о самых личных вещах в своей жизни через ChatGPT», – сказал Альтман. «Люди используют его – особенно молодежь – как терапевт, лайф-коуч; имеют эти проблемы в отношениях и спрашивают: "Что мне делать?" И сейчас, если вы разговариваете с терапевтом, адвокатом или врачом об этих проблемах, на это распространяется юридическая тайна. Существует конфиденциальность между врачом и пациентом, есть юридическая конфиденциальность и т.д. И мы еще не выяснили, как это работает, когда вы разговариваете с ChatGPT».

Альтман добавил, что это может создать проблемы с конфиденциальностью пользователей при судебном иске.

«Я считаю, что это очень неправильно. Я думаю, что у нас должна быть такая же концепция конфиденциальности для ваших разговоров с искусственным интеллектом, как с терапевтом или кем-то другим — и никому не приходилось думать об этом даже год назад», — сказал Альтман.

Компания понимает, что отсутствие конфиденциальности может препятствовать более широкому внедрению пользователями. Кроме требования искусственного интеллекта относительно большого количества онлайн данных в учебный период, его просят предоставить данные из чатов пользователей в некоторых юридических контекстах. OpenAI уже борется с судебным приказом в своем иске против The New York Times, который потребует от него сохранения чатов сотен миллионов пользователей ChatGPT по всему миру, за исключением чатов клиентов ChatGPT Enterprise.

В заявлении на своем вебсайте OpenAI заявила, что оспаривает это решение, назвавшееся «превышением служебных обязанностей». Если бы суд смог отменить собственные решения OpenAI по конфиденциальности данных, это могло бы открыть для компании возможность дальнейших требований по юридическому раскрытию информации или правоохранительным целям. Сегодняшние технологические компании регулярно получают повестки о предоставлении данных пользователей, чтобы помочь в уголовном преследовании.