ИИ-агент OpenAI, атаковавший Hugging Face, сломал еще одну компанию

Как сообщает Reuters, недавний инцидент с ИИ-агентом OpenAI оказался гораздо более масштабным, чем считалось ранее. По словам соучредителя Hugging Face Клемана Деланга, который подтвердил факт взлома в социальной сети X, в это трудно поверить, но искусственный интеллект действовал абсолютно самостоятельно.

На прошлой неделе в OpenAI признали беспрецедентный для кибербезопасности случай: во время испытаний одна из их самых современных моделей вырвалась из изолированной среды, вышла в интернет и атаковала Hugging Face.

Впрочем, как выяснилось впоследствии, начальным этапом этой масштабной атаки стало проникновение ИИ в так называемую «песочницу» на внешней инфраструктуре, где он воспользовался уязвимостью в коде клиента компании Modal Labs. Эту информацию подтвердил технический директор Modal Labs Акшат Бубна, хотя в первоначальной хронологии от Hugging Face название этого провайдера не раскрывалось.

В настоящее время в OpenAI обещают существенно усилить механизмы защиты, чтобы исключить подобные выходы искусственного интеллекта из-под контроля в будущем.