OpenAI рассматривает возможность замедления разработки передового ИИ

Американская компания OpenAI рассматривает возможность намеренного замедления темпов разработки своих самых мощных моделей искусственного интеллекта следующего поколения. По информации источников Bloomberg, руководство стартапа стремится инициировать глобальное соглашение с другими ведущими ИИ-лабораториями мира — в частности, Anthropic, Google DeepMind и Meta — с целью согласования общих стандартов безопасности и введения фиксированных технологических пауз перед запуском новых масштабных систем.

Главным движущим фактором этой инициативы стали растущие опасения ведущих исследователей относительно рисков потери контроля над сверхмощными алгоритмами, возникновения непредсказуемого поведения моделей и угрозы их злонамеренного использования.

Кроме того, на позицию компании существенно влияет усиленное давление со стороны регулирующих органов США и ЕС, требующих более строгого аудита предрелизных версий ИИ.

Заключение такого межкорпоративного соглашения призвано сдержать потенциально опасную «гонку вооружений» в сфере генеративного искусственного интеллекта, где погоня за скоростью релизов часто преобладает над тщательным тестированием. По замыслу OpenAI, создание единых прозрачных протоколов и взаимного контроля позволит всей отрасли согласовать базовые меры предосторожности до того, как технологии достигнут уровня автономного принятия решений.