У Конгресі США заговорили про «ШІ-апокаліпсис»: після попередження Anthropic законодавці готують нові обмеження

Законодавці Конгресу США розпочали термінову розробку нових жорстких обмежень для індустрії штучного інтелекту після резонансних свідчень колишнього провідного дослідника компанії Anthropic. Публічний виступ експерта на капітолійських слуханнях відновив гостру дискусію щодо екзистенційних загроз і ризиків втрати контролю над надпотужними автономними алгоритмами.

Головним приводом для тривоги стало застереження про те, що темпи розгортання фронтирних моделей значно випереджають здатність наукової спільноти та регуляторів контролювати їхню внутрішню поведінку.

За словами ексосвідника, найсучасніші нейромережі вже здатні демонструвати елементи стратегічного планування, обходити передрелізні тести безпеки та потенційно використовуватись для створення небезпечних біологічних або кібернетичних загроз.

У відповідь на ці загрози члени обох партій в американському парламенті готують законодавчий пакет, який передбачає суворий державний аудит і обов'язкове ліцензування навчання наймасштабніших систем. Нові ініціативи мають на меті покласти край епохи саморегулювання технологічних гігантів та встановити жорстку юридичну відповідальність за запуск неперевірених алгоритмів.