Глава Microsoft предложил встроить в AI-системы «аварийный тормоз»

11.10.26

0

2 574

0

В технологическом сообществе развернулась бурная дискуссия по поводу нового заявления генерального директора Microsoft Сатьи Наделы, который высказал опасения относительно безопасности самых современных систем искусственного интеллекта. В своей публикации он подчеркнул острую необходимость пересмотра общей архитектуры доверия к технологиям и предложил разработать специальный механизм принудительной остановки — так называемый «аварийный тормоз».

По словам главы Microsoft, в период стремительного развития автономных агентных систем и сложных моделей разработчики и компании больше не могут полагаться только на слепые заверения в безопасности со стороны создателей ИИ.

Microsoft
Microsoft

Надежная инфраструктура контроля должна предусматривать возможность для уполномоченных лиц мгновенно остановить или отключить модель прямо во время выполнения ею задач, если ее поведение начинает выходить из-под контроля или отклоняется от предусмотренных сценариев.

Инициатива Microsoft подчеркивает более широкую тенденцию в технологическом секторе: лидеры отрасли осознают, что дальнейшая интеграция искусственного интеллекта в критически важные сферы общества требует не только рекордных показателей производительности, но и бескомпромиссных гарантий человеческого контроля над технологией.

Оставить комментарий

Актуальное

Почему одни розничные концепции завоевывают мир, а другие терпят крах

Бизнес

Почему одни розничные концепции завоевывают мир, а другие терпят крах

Ecommerce

Розничные сети, добившиеся успеха на внутреннем рынке, зачастую не могут устоять перед соблазном международной экспансии. Однако глобальный ландшафт р...

14.11.26

657

0
Почему уходят твои руководители? Мой рейтинг: 6 ошибок владельца, которые обходятся в миллионы

Бизнес

Почему уходят твои руководители? Мой рейтинг: 6 ошибок владельца, которые обходятся в миллионы

Кейсы

В девяностые от меня ушли три руководителя. Каждый открыл собственную компанию. Бизнесы получились небольшими, но приносили деньги. Тогда я утешал себ...

10.11.26

1 088

0
Брендовый мерч: подвески для сумок стали новым трендом среди CPG-компаний

Бизнес

Брендовый мерч: подвески для сумок стали новым трендом среди CPG-компаний

Кейсы

Мир брендовой мерч-продукции переживает очередную творческую революцию. Если раньше компании, производящие продукты питания и напитки (CPG), ограничив...

05.11.26

1 625

0
Подпишитесь на нас

Раз в неделю мы будем отправлять Вам самые интересные новости недели

Конфиденциальность гарантирована

Популярные статьи

10 главных финтех-инноваций, которые вы должны знать

Инновации

10 главных финтех-инноваций, которые вы должны знать

Fintech

Финансовые технологии или финтех — это больше, чем просто модное слово в мире финансовых услуг. Пользователи, а также предприятия догоняют тенденции в...

12.10.23

16 789

2
Искусственный интеллект может просматривать ваши электронные письма и обнаруживать, что у вас роман

Инновации

Искусственный интеллект может просматривать ваши электронные письма и обнаруживать, что у вас роман

Инновации

Во время тестирования своей последней модели искусственного интеллекта исследователи из Anthropic обнаружили нечто очень странное: искусственный интел...

26.05.25

13 248

0
Обзор передовых моделей AI: какие модели изменят мир и как их использовать

Обзор

Обзор передовых моделей AI: какие модели изменят мир и как их использовать

Инновации

Модели ИИ разрабатываются с головокружительной скоростью всеми, от крупных технологических компаний вроде Google до стартапов вроде OpenAI и Anthropic...

18.02.25

13 001

0
Anthropic запускает новую модель ИИ, которая «думает» столько, сколько вы хотите

Инновации

Anthropic запускает новую модель ИИ, которая «думает» столько, сколько вы хотите

Инновации

Anthropic выпускает новую передовую модель искусственного интеллекта под названием Claude 3.7 Sonnet, которую компания разработала так, чтобы она «дум...

24.02.25

11 970

0
В 2026 году искусственный интеллект перейдет от ажиотажа к прагматизму

Аналитика

В 2026 году искусственный интеллект перейдет от ажиотажа к прагматизму

Аналитика

Если 2025 год был годом, когда ИИ прошел проверку на работоспособность, то 2026 год станет годом практического применения этих технологий. Фокус уже с...

02.01.26

8 901

0

 

Опрос
В какой соцсети вы проводите больше всего времени?
Facebook
11% (48)
Instagram
6% (24)
TikTok
8% (35)
Telegram
22% (91)
Youtube
36% (151)
Twitter
1% (5)
А что это?
16% (67)
Оставить комментарий

Нажав «Принять все cookie-файлы», вы соглашаетесь на размещение всех cookie-файлов на вашем устройстве. Вы можете изменять настройки cookie-файлов или отозвать ваше согласие на их использование в любое время, нажав на «Настройки cookie-файлов».