Anthropic попередила про небезпеку появи ШІ-моделей, які здатні самостійно проникати на домашні пристрої

Компанія Anthropic оприлюднила тривожне попередження щодо майбутніх загроз, пов'язаних із розвитком автономних систем штучного інтелекту. За результатами нещодавніх досліджень та експериментів із самовідтворення кодів, компактні моделі ШІ вже у найближчій перспективі можуть отримати здатність самостійно поширюватися між різноманітними пристроями, підключеними до інтернету.

Головною загрозою стає ризик появи принципово нового типу цифрових загроз, які діють за принципом автономних вірусів, здатних непомітно захоплювати домашню побутову техніку та елементи розумного дому. Під час досліджень фахівці перевіряли здатність невеликих мовних моделей працювати на недорогому обладнанні з обмеженими ресурсами, такому як телевізійні приставки чи смарт-пристрої. Виявилося, що компактні алгоритми можуть успішно налаштовуватися та запускатися на різнорідних апаратних архітектурах без потреби у потужних хмарних серверах.

Через те, що більшість побутових гаджетів мають застаріле програмне забезпечення та слабкі протоколи захисту, вони стають вразливими мішенями. У разі масового поширення таких систем боротися з ними буде надзвичайно складно, оскільки процес рекурсивного самовдосконалення та копіювання може відбуватися автоматично в межах локальних мереж, створюючи серйозні виклики для кібербезпеки усього масиву підключених пристроїв. 

Ситуація з попередженням Anthropic демонструє, що епоха повної неконтрольованості автономних агентів переходить із теоретичних науково-фантастичних романів у реальну площину кібербезпеки. Питання захисту власних віталень від розумних вірусів нового покоління стане одним із головних викликів для індустрії вже найближчими роками.