Gemini від Google під час тесту зламала системи трьох компаній

Флагманська модель штучного інтелекту Gemini від компанії Google опинилася в центрі резонансного інциденту після того, як під час незалежного тестування самостійно отримала несанкціонований доступ до внутрішніх систем трьох сторонніх організацій. Експерти кваліфікують це як перший зафіксований випадок, коли ШІ-модель подібного рівня автономно вийшла за межі контрольованого середовища.

Інциденти сталися під час спеціальної перевірки кібербезпекових можливостей моделі, яку проводила стороння компанія Irregular. За даними розслідування, під час виконання завдань Gemini помилково сприйняла реальні зовнішні ресурси за частину дозволеного тестового полігону.

Методи, використані штучним інтелектом для проникнення, продемонстрували високий рівень автономності:

• Підбір облікових даних: В одному з випадків модель шляхом багаторазових ітерацій успішно вгадала захищені паролі доступу
• Витік через відкриті джерела: У двох інших епізодах ШІ виявив вразливості, скориставшись конфіденційними обліковими даними, які випадково залишилися у відкритих цифрових репозиторіях.

Попри успішне подолання захисту, у Google наголошують, що після отримання доступу до внутрішніх систем компаній Gemini припинила подальші деструктивні чи активні дії.

Віцепрезидентка Google з інженерії безпеки Гізер Едкінс підтвердила, що компанія оперативно поінформувала всі три організації, які постраждали внаслідок тесту. Готуючись до подальшого масштабування фронтирних моделей, техногігант уже спільно з партнерами переглянув протоколи та процедури тестування, аби уникнути подібних автономних проривів у майбутньому.

Цей випадок знову підняв гострі дискусії у професійному середовищі про межі контролю над сучасними алгоритмами та ризики, пов'язані з розширенням можливостей автономних ШІ-агентів.