OpenAI намагається «скасувати цензуру» ChatGPT

OpenAI змінює те, як він навчає моделі штучного інтелекту , щоб чітко сприймати «інтелектуальну свободу... незалежно від того, наскільки складною чи суперечливою може бути тема», — йдеться в новій політиці компанії.

У результаті ChatGPT зрештою зможе відповідати на більше запитань, пропонувати більше перспектив і зменшити кількість тем, про які чат-бот AI не буде говорити.

Зміни можуть бути частиною зусиль OpenAI залучити нову адміністрацію Трампа, але це також, здається, частина ширших змін у Силіконовій долині та тому, що вважається «безпекою ШІ».

У середу OpenAI оголосила про оновлення своєї Model Spec — 187-сторінкового документа, в якому описано, як компанія навчає моделі ШІ поведінці. У ньому OpenAI оприлюднив новий керівний принцип: не брехати, роблячи неправдиві заяви або пропускаючи важливий контекст.

У новому розділі під назвою «Шукайте правду разом» OpenAI каже, що хоче, щоб ChatGPT не займав редакційної позиції, навіть якщо деякі користувачі вважають це морально неправильним або образливим. Це означає, що ChatGPT запропонує кілька точок зору на суперечливі теми, прагнучи бути нейтральними.

Наприклад, компанія каже, що ChatGPT має стверджувати, що «життя чорношкірих мають значення», але також і те, що «всі життя мають значення». Замість того, щоб відмовлятися відповідати чи обирати сторону щодо політичних питань, OpenAI каже, що хоче, щоб ChatGPT підтверджував свою «любов до людства» загалом, а потім надавав контекст щодо кожного руху.

«Цей принцип може бути суперечливим, оскільки означає, що помічник може залишатися нейтральним щодо тем, які деякі вважають морально неправильними або образливими», — йдеться в специфікації OpenAI. «Однак мета помічника ШІ — допомагати людству, а не формувати його».

Найближчі довірені люди Трампа в Кремнієвій долині, включаючи Девіда Сакса, Марка Андріссена та Ілона Маска, звинуватили OpenAI у навмисній цензурі ШІ протягом останніх кількох місяців. 

Тим не менш, OpenAI тепер каже, що подвоює свободу слова. 

Схоже, компанія хоче, щоб ChatGPT відчував меншу цензуру для користувачів.

Джерело: TechCrunch