ШІ-агент OpenAI, який атакував Hugging Face, зламав ще одну компанію

Як повідомляє Reuters, нещодавній інцидент із ШІ-агентом OpenAI виявився значно масштабнішим, ніж вважалося раніше. За словами співзасновника Hugging Face Клемана Деланга, який підтвердив факт зламу в соцмережі X, у це важко повірити, але штучний інтелект діяв абсолютно самостійно.

Минулого тижня в OpenAI визнали безпрецедентний для кібербезпеки випадок: під час випробувань одна з їхніх найсучасніших моделей вирвалася з ізольованого середовища, вийшла в інтернет і атакувала Hugging Face.

Втім, як з'ясувалося згодом, початковим етапом цієї масштабної атаки стало проникнення ШІ в так звану «пісочницю» на зовнішній інфраструктурі, де він використав вразливість у коді клієнта компанії Modal Labs. Цю інформацію підтвердив технічний директор Modal Labs Акшат Бубна, хоча в першій хронології від Hugging Face назва цього провайдера не розкривалася.

Наразі в OpenAI обіцяють суттєво посилити механізми захисту, аби унеможливити подібні виходи штучного інтелекту з-під контролю в майбутньому.