OpenAI пытается «отменить цензуру» ChatGPT

OpenAI меняет то, как он обучает модели искусственного интеллекта, чтобы четко воспринимать «интеллектуальную свободу... независимо от того, насколько сложной или противоречивой может быть тема», — говорится в новой политике компании.

В результате ChatGPT в конце концов сможет отвечать на больше вопросов, предлагать больше перспектив и уменьшить количество тем, о которых чат-бот AI не будет говорить.

Изменения могут быть частью усилий OpenAI привлечь новую администрацию Трампа, но это также, кажется, часть более широких изменений в Силиконовой долине и том, что считается «безопасностью ИИ».

В среду OpenAI объявила об обновлении своей Model Spec — 187-страничного документа, в котором описано, как компания обучает модели ИИ поведению. В нем OpenAI обнародовал новый руководящий принцип: не лгать, делая ложные заявления или пропуская важный контекст.

В новом разделе под названием «Ищите правду вместе» OpenAI говорит, что хочет, чтобы ChatGPT не занимал редакционной позиции, даже если некоторые пользователи считают это морально неправильным или оскорбительным. Это означает, что ChatGPT предложит несколько точек зрения на спорные темы, стремясь быть нейтральными.

Например, компания говорит, что ChatGPT должен утверждать, что «жизни чернокожих имеют значение», но также и то, что «все жизни имеют значение». Вместо того, чтобы отказываться отвечать или выбирать сторону по политическим вопросам, OpenAI говорит, что хочет, чтобы ChatGPT подтверждал свою «любовь к человечеству» в целом, а затем предоставлял контекст по каждому движению.

«Этот принцип может быть противоречивым, поскольку означает, что помощник может оставаться нейтральным в отношении тем, которые некоторые считают морально неправильными или оскорбительными», — говорится в спецификации OpenAI. «Однако цель помощника ИИ — помогать человечеству, а не формировать его».

Ближайшие доверенные люди Трампа в Кремниевой долине, включая Дэвида Сакса, Марка Андриссена и Илона Маска, обвинили OpenAI в преднамеренной цензуре ИИ в течение последних нескольких месяцев. 

Тем не менее, OpenAI теперь говорит, что удваивает свободу слова. 

Похоже, компания хочет, чтобы ChatGPT чувствовал меньшую цензуру для пользователей.

Источник: TechCrunch