OpenAI створив інструмент клонування голосу

Оскільки дипфейки поширюються , OpenAI удосконалює технологію, яка використовується для клонування голосів, але компанія наполягає, що робить це відповідально.

Voice Engine, який розроблявся близько двох років, дозволяє користувачам завантажувати будь-який 15-секундний зразок голосу для створення синтетичної копії цього голосу. Але ще немає дати публічного доступу, що дасть компанії час відреагувати на те, як модель використовується та зловживає нею.

«Ми хочемо переконатися, що всі відчувають себе добре, як це розгортається — що ми розуміємо, де ця технологія є небезпечною, і ми маємо засоби пом’якшення цього», — сказав Джефф Харріс, член команди продукту OpenAI.

За словами Харріса, модель генеративного штучного інтелекту, яка працює з Voice Engine, деякий час ховалася на виду.

Ця ж модель лежить в основі голосу та можливостей «читати вголос» у ChatGPT , чат-боті OpenAI на основі штучного інтелекту, а також попередньо налаштованих голосів, доступних в API перетворення тексту в мову OpenAI. І Spotify використовує його з початку вересня, щоб дублювати різними мовами подкасти для таких відомих ведучих, як Лекс Фрідман.

Такі моделі, як та, що використовує Voice Engine, навчаються на величезній кількості прикладів — у цьому випадку це записи мовлення — зазвичай із загальнодоступних сайтів і наборів даних у мережі. Багато виробників генеративного штучного інтелекту бачать навчальні дані як конкурентну перевагу, тому зберігають їх та пов’язану з ними інформацію поблизу. Але деталі навчальних даних також є потенційним джерелом судових позовів, пов’язаних з інтелектуальною власністю, що є ще одним фактором, який перешкоджає розкривати багато чого.

«Ми беремо невеликий зразок аудіо та текст і створюємо реалістичну мову, яка відповідає оригінальному оратору», — сказав Гарріс. «Аудіо, яке використовується, видаляється після завершення запиту».

Як він пояснив, модель одночасно аналізує мовні дані, з яких вона витягує, і текстові дані, призначені для читання вголос, генеруючи відповідний голос без необхідності створювати спеціальну модель для кожного динаміка.

Залежно від того, як пройде попередній перегляд і як громадськість сприйме Voice Engine, OpenAI може випустити інструмент для ширшої бази розробників, але наразі компанія не бажає робити щось конкретне.

Проте Гарріс коротко зазирнув у дорожню карту Voice Engine, виявивши, що OpenAI тестує механізм безпеки, за допомогою якого користувачі читають випадково згенерований текст як доказ того, що вони присутні та знають, як використовується їхній голос. 

Джерело: TechCrunch