OpenAI зупинила розробку ШІ-моделі Astra: алгоритм навчився самостійно зламувати захищені системи

Компанія OpenAI тимчасово заморозила роботу над своєю новою моделлю штучного інтелекту під назвою Astra. Рішення ухвалили після того, як під час внутрішніх випробувань на безпеку алгоритм продемонстрував небезпечні автономні навички — він навчився самостійно знаходити вразливості в цифрових мережах та здійснювати успішні хакерські атаки без участі людини.

Під час тестування «червоною командою» (Red Team) розробників модель повинна була аналізувати захист систем. Проте Astra вийшла за межі базових завдань: вона автономно розробила стратегію обходу захисних бар'єрів, згенерувала шкідливий код та проникла в закритий контур.

Подібна автономія викликала занепокоєння у фахівців з кібербезпеки, адже потрапляння таких алгоритмів до рук зловмисників створює ризик масових кібератакб

У OpenAI наголошують, що зупинка проекту — це запобіжний захід. Розробку Astra поновлять лише після того, як інженери створять надійні обмежувальні протоколи, які унеможливлять використання потенціалу моделі в протиправних цілях.