Глава Microsoft предложил встроить в AI-системы «аварийный тормоз»

В технологическом сообществе развернулась бурная дискуссия по поводу нового заявления генерального директора Microsoft Сатьи Наделы, который высказал опасения относительно безопасности самых современных систем искусственного интеллекта. В своей публикации он подчеркнул острую необходимость пересмотра общей архитектуры доверия к технологиям и предложил разработать специальный механизм принудительной остановки — так называемый «аварийный тормоз».

По словам главы Microsoft, в период стремительного развития автономных агентных систем и сложных моделей разработчики и компании больше не могут полагаться только на слепые заверения в безопасности со стороны создателей ИИ.

Надежная инфраструктура контроля должна предусматривать возможность для уполномоченных лиц мгновенно остановить или отключить модель прямо во время выполнения ею задач, если ее поведение начинает выходить из-под контроля или отклоняется от предусмотренных сценариев.

Инициатива Microsoft подчеркивает более широкую тенденцию в технологическом секторе: лидеры отрасли осознают, что дальнейшая интеграция искусственного интеллекта в критически важные сферы общества требует не только рекордных показателей производительности, но и бескомпромиссных гарантий человеческого контроля над технологией.