Anthropic раскроет финансовым регуляторам G20 уязвимости, которые обнаружила ИИ-модель Claude Mythos

Американская компания Anthropic, занимающаяся разработкой искусственного интеллекта, проведет закрытые брифинги для центральных банков и министерств финансов стран G20, посвященные масштабным киберугрозам, которые удалось выявить ее новейшей модели Claude Mythos Preview.

Как сообщает Financial Times, финансовые регуляторы по всему миру серьезно обеспокоены потенциалом новейшего ИИ, который злоумышленники могут использовать для разрушительных атак на мировую банковскую инфраструктуру. Организатором этих встреч выступил глава Банка Англии Эндрю Бейли, который лично обратился к руководству Anthropic с просьбой выступить перед членами возглавляемого им Совета финансовой стабильности (FSB).

Учитывая высокую опасность технологии, разработчики строго ограничили круг тех, кто имеет непосредственный доступ к Mythos. На данный момент модель передали лишь около 40 проверенным организациям, преимущественно в Соединенных Штатах, среди которых такие гиганты, как JPMorgan Chase, Microsoft и Amazon. Главная цель этого ограниченного релиза — позволить партнерам оперативно устранить критические пробелы в безопасности, выявленные ИИ. По данным журналистов, Anthropic также приняла решение временно не расширять этот список после соответствующих рекомендаций со стороны Белого дома.

Несмотря на искусственные ограничения, компания буквально завалена запросами от иностранных правительств и надзорных органов, которые требуют либо открыть им доступ к модели, либо хотя бы провести конфиденциальные демонстрации ее возможностей. Команда Anthropic уже пошла навстречу некоторым международным институтам и, помимо G20, готовит специальные брифинги для Европейской комиссии.

На фоне этих событий Совет по финансовой стабильности завершает работу над масштабным докладом о правилах безопасного внедрения ИИ в банковском секторе, который будет представлен для общественного обсуждения уже в следующем месяце. В то же время регуляторы по всему миру советуют финансовым учреждениям не ждать официальных инструкций, а немедленно начать внеплановый аудит систем защиты и ускорить обновление критически важного программного обеспечения.

Напомним, что согласно недавнему заявлению Anthropic, Claude Mythos обнаружил тысячи ранее неизвестных уязвимостей, присутствующих в самых популярных браузерах и операционных системах планеты. Эксперты компании открыто предупреждают, что если эти дыры в коде успеют эксплуатировать хакеры, последствия для мировой экономики, гражданской безопасности и оборонного сектора многих государств будут поистине катастрофическими.