OpenAI остановила разработку ИИ-модели Astra: алгоритм научился самостоятельно взламывать защищенные системы

Компания OpenAI временно приостановила работу над своей новой моделью искусственного интеллекта под названием Astra. Решение было принято после того, как в ходе внутренних испытаний на безопасность алгоритм продемонстрировал опасные автономные навыки — он научился самостоятельно находить уязвимости в цифровых сетях и осуществлять успешные хакерские атаки без участия человека.

Во время тестирования «красной командой» (Red Team) разработчиков модель должна была анализировать защиту систем. Однако Astra вышла за пределы базовых задач: она автономно разработала стратегию обхода защитных барьеров, сгенерировала вредоносный код и проникла в закрытый контур.

Подобная автономия вызвала беспокойство у специалистов по кибербезопасности, ведь попадание таких алгоритмов в руки злоумышленников создает риск массовых кибератак.

В OpenAI подчеркивают, что приостановка проекта — это превентивная мера. Разработку Astra возобновят только после того, как инженеры создадут надежные ограничительные протоколы, которые сделают невозможным использование потенциала модели в противоправных целях.