Технологии Почему Сэм Альтман теряет сон? Генеральный директор OpenAI отвечает на спорные вопросы в масштабном интервью

На прошлой неделе в масштабном интервью генеральный директор OpenAI Сэм Альтман рассмотрел множество моральных и этических вопросов, касающихся его компании и популярной модели искусственного интеллекта ChatGPT.

«Послушайте, я плохо сплю по ночам. Есть много вещей, которые меня очень беспокоят, но, пожалуй, не больше того, что каждый день сотни миллионов людей общаются с нашей моделью», — сказал Альтман ведущему Fox News Такеру Карлсону в интервью.

«Я на самом деле не волнуюсь, что мы ошибаемся в важных моральных решениях», — сказал Альтман, хотя и признал, что «возможно, мы будем ошибаться и в этих случаях».

Скорее, он сказал, что больше всего теряет сон из-за «очень мелких решений» относительно поведения модели, которые в конечном итоге могут иметь большие последствия.

Эти решения, как правило, сосредоточены на этических принципах, на которых основан ChatGPT, и на тех вопросах, на которые чат-бот отвечает, а на какие нет. Вот краткий обзор некоторых из этих моральных и этических дилемм, которые, кажется, не дают Альтману спать по ночам.

Как ChatGPT решает проблему самоубийств?

По словам Альтмана, самым сложным вопросом, с которым компания в последнее время сталкивается, является то, как ChatGPT получил иск от семьи, которая обвинила чат-бота в самоубийстве своего сына-подростка.

Генеральный директор сказал, что из тысяч людей, которые каждую неделю совершают самоубийство, многие из них, возможно, общались с ChatGPT накануне.

«Они, вероятно, говорили о самоубийстве, и мы, вероятно, не спасли им жизнь», — откровенно сказал Альтман. «Возможно, мы могли бы сказать что-то лучше. Возможно, мы могли бы быть более проактивными. Возможно, мы могли бы дать немного лучший совет о том, что вам нужна помощь».

В прошлом месяце родители Адама Рейна подали иск против OpenAI о ответственности за качество продукции и неправомерное убийство после того, как их сын покончил жизнь самоубийством в возрасте 16 лет. В иске семья заявила, что «ChatGPT активно помогал Адаму исследовать методы самоубийства».

Вскоре после этого, в блоге под названием «Помощь людям, когда они в ней больше всего нуждаются», OpenAI подробно описал планы по устранению недостатков ChatGPT при обработке «деликатных ситуаций» и заявил, что будет продолжать совершенствовать свою технологию для защиты наиболее уязвимых людей.

Как определяется этика ChatGPT?

Еще одной важной темой, затронутой во время интервью, были этика и мораль, которыми руководствуются ChatGPT и его руководители.

Хотя Альтман описал базовую модель ChatGPT как обучающуюся на коллективном опыте, знаниях и обучении человечества, он отметил, что OpenAI должна согласовать определенные модели поведения чат-бота и решить, на какие вопросы он не будет отвечать.

«Это действительно сложная проблема. Сейчас у нас много пользователей, и у них очень разные взгляды на жизнь. Но в целом я был приятно удивлен способностью модели учиться и применять моральную систему».

Когда Альтмана спросили, как определяются определенные спецификации моделей, он сказал, что компания проконсультировалась «с сотнями моральных философов и людей, которые размышляли над этикой технологий и систем».

В качестве примера разработанной им спецификации модели, ChatGPT будет избегать ответов на вопросы о том, как создавать биологическое оружие, если это предложат пользователи.

«Есть четкие примеры того, как общественный интерес значительно противоречит свободе пользователей», — сказал Альтман, хотя и добавил, что компания «не сделает все правильно, а также нуждается в вкладе мира», чтобы помочь принять эти решения.

Насколько частным является ChatGPT?

Еще одной важной темой для обсуждения была концепция конфиденциальности пользователей в отношении чат-ботов, причем Карлсон утверждал, что генеративный искусственный интеллект может быть использован для «тоталитарного контроля».

В ответ Альтман сказал, что одним из направлений политики, которое он продвигает в Вашингтоне, является «привилегия искусственного интеллекта», что означает идею о том, что все, что пользователь говорит чат-боту, должно быть полностью конфиденциальным.

«Когда вы разговариваете с врачом о своем здоровье или с адвокатом о своих юридических проблемах, правительство не может получить эту информацию, не так ли? Я думаю, что мы должны иметь такую же концепцию для искусственного интеллекта».

По словам Альтмана, это позволит пользователям обращаться к чат-ботам с искусственным интеллектом по поводу их истории болезни и юридических проблем, среди прочего. В настоящее время он добавил, что должностные лица США могут требовать от компании данные пользователей.

«Я думаю, что я оптимистично настроен в отношении того, что нам удастся заставить правительство понять важность этого», — сказал он.

Будет ли ChatGPT использоваться в военных операциях?

На вопрос Карлсона, будет ли ChatGPT использоваться военными для нанесения вреда людям, Альтман не дал прямого ответа.

«Я не знаю, как военные используют ChatGPT сегодня, но подозреваю, что многие военные обращаются к ChatGPT за советом».

Позже он добавил, что не совсем понимает, «как именно к этому относиться».

OpenAI была одной из компаний по искусственному интеллекту, которая получила контракт на 200 миллионов долларов от Министерства обороны США на внедрение генеративного искусственного интеллекта для американских военных. В своем блоге компания заявила, что предоставит правительству США доступ к специализированным моделям искусственного интеллекта для целей национальной безопасности, поддержки и информации о дорожной карте продукта.

Насколько мощна OpenAI?

В своем интервью Карлсон предсказал, что на своей нынешней траектории генеративный ИИ, а следовательно, и Сэм Альтман, могут накопить больше власти, чем любой другой человек, даже назвав ChatGPT «религией».

В ответ Альтман сказал, что раньше его очень беспокоила концентрация власти, которая может возникнуть в результате генеративного ИИ, но теперь он считает, что ИИ приведет к «огромному повышению уровня» всех людей.