OpenAI создал инструмент клонирования голоса

Поскольку дипфейки распространяются, OpenAI совершенствует технологию, используемую для клонирования голосов, но компания настаивает, что делает это ответственно.

Voice Engine, который разрабатывался около двух лет, позволяет пользователям загружать любой 15-секундный образец голоса для создания синтетической копии этого голоса. Но еще нет даты публичного доступа, что даст компании время отреагировать на то, как модель используется и злоупотребляет ею.

"Мы хотим убедиться, что все чувствуют себя хорошо, как это разворачивается — что мы понимаем, где эта технология опасна, и у нас есть средства смягчения этого", — сказал Джефф Харрис, член команды продукта OpenAI.

По словам Харриса, модель генеративного искусственного интеллекта, которая работает с Voice Engine, некоторое время скрывалась на виду.

Эта же модель лежит в основе голоса и возможностей "читать вслух" в ChatGPT , чат-боте OpenAI на основе искусственного интеллекта, а также предварительно настроенных голосов, доступных в API преобразования текста в язык OpenAI. И Spotify использует его с начала сентября, чтобы дублировать на разных языках подкасты для таких известных ведущих, как Лекс Фридман.

Такие модели, как та, что использует Voice Engine, обучаются на огромном количестве примеров — в данном случае это записи речи — обычно из общедоступных сайтов и наборов данных в сети. Многие производители генеративного искусственного интеллекта видят обучающие данные как конкурентное преимущество, поэтому хранят их и связанную с ними информацию поблизости. Но детали учебных данных также являются потенциальным источником судебных исков, связанных с интеллектуальной собственностью, что является еще одним фактором, который препятствует раскрытию многого.

"Мы берем небольшой образец аудио и текста и создаем реалистичную речь, которая соответствует оригинальному оратору", — сказал Харрис. "Используемое аудио удаляется после завершения запроса".

Как он объяснил, модель одновременно анализирует речевые данные, из которых она извлекает, и текстовые данные, предназначенные для чтения вслух, генерируя соответствующий голос без необходимости создавать специальную модель для каждого динамика.

В зависимости от того, как пройдет предварительный просмотр и как общественность воспримет Voice Engine, OpenAI может выпустить инструмент для более широкой базы разработчиков, но пока компания не желает делать что-то конкретное.

Однако Харрис кратко заглянул в дорожную карту Voice Engine, обнаружив, что OpenAI тестирует механизм безопасности, с помощью которого пользователи читают случайно сгенерированный текст как доказательство того, что они присутствуют и знают, как используется их голос. 

Источник: TechCrunch