Глава Microsoft запропонував вбудувати в AI-системи «аварійне гальмо»

У технологічній спільноті розгортається бурхливе обговорення нової заяви генерального директора Microsoft Сатьї Надели, який виступив із застереженням щодо безпеки найсучасніших систем штучного інтелекту. У своїй публікації він наголосив на гострій необхідності перегляду загальної архітектури довіри до технологій та запропонував розробити спеціальний механізм примусового зупинення — так зване «екстрене гальмо».

За словами очільника Microsoft, у період стрімкого розвитку автономних агентних систем та складних моделей розробники й компанії більше не можуть покладатися лише на сліпі запевнення у безпеці від творців ШІ.

Надійна інфраструктура контролю має передбачати можливість для уповноважених людей миттєво зупинити або вимкнути модель прямо під час виконання нею завдань, якщо її поведінка починає виходити з-під контролю або відхиляється від передбачених сценаріїв.

Ініціатива Microsoft підкреслює ширшу тенденцію у технологічному секторі: лідери галузі усвідомлюють, що подальша інтеграція штучного інтелекту в критичні сфери суспільства вимагає не лише рекордних показників продуктивності, а й безкомпромісних гарантій людського контролю над технологією.