В Конгрессе США заговорили об «ИИ-апокалипсисе»: после предупреждения от Anthropic законодатели готовят новые ограничения

Законодатели Конгресса США приступили к срочной разработке новых жестких ограничений для индустрии искусственного интеллекта после резонансных показаний бывшего ведущего исследователя компании Anthropic. Публичное выступление эксперта на слушаниях в Капитолии возобновило острую дискуссию об экзистенциальных угрозах и рисках потери контроля над сверхмощными автономными алгоритмами.

Главным поводом для беспокойства стало предупреждение о том, что темпы внедрения передовых моделей значительно опережают способность научного сообщества и регулирующих органов контролировать их внутреннее поведение.

По словам эксперта, самые современные нейросети уже способны демонстрировать элементы стратегического планирования, обходить предрелизные тесты безопасности и потенциально использоваться для создания опасных биологических или кибернетических угроз.

В ответ на эти угрозы члены обеих партий в американском парламенте готовят законодательный пакет, предусматривающий строгий государственный аудит и обязательное лицензирование обучения крупнейших систем. Новые инициативы призваны положить конец эпохе саморегулирования технологических гигантов и установить жесткую юридическую ответственность за запуск непроверенных алгоритмов.