ChatGPT получил право на самоуправление. Что может пойти не так ли?

Бывший премьер-министр Великобритании Риши Сунак когда-то считал искусственный интеллект настолько рискованным, что в 2023 году организовал первый в мире «Саммит по безопасности искусственного интеллекта», пригласив политиков и давнего борца с искусственным интеллектом Илона Маска обсудить меры предосторожности для бума, вызванного ChatGPT. Через два года его взгляды значительно смягчились.

«Самое правильное здесь — не регулировать», — сказал он мне в прошлом месяце на Форуме новой экономики, отметив, что такие компании, как OpenAI, «очень хорошо сотрудничают» с исследователями безопасности в Лондоне, которые тестируют их модели на наличие потенциального вреда. Эти фирмы добровольно согласились пройти аудит. Когда я отметил, что они могут изменить свое мнение в будущем, Сунак ответил: «Пока что мы еще не достигли этой точки, что является положительным моментом». Но что произойдет, когда мы ее достигнем?

Изменение Сунаком своей позиции, когда он когда-то заявлял, что Великобритания должна быть «родиной регулирования безопасности искусственного интеллекта», до отказа от любого законодательства вообще, отражает более широкие изменения, происходящие с правительствами всего мира. За этим стоит стремление воспользоваться технологиями, которые могли бы возродить застойные экономики, и ощущение, что строгие правила не нужны без четких доказательств широкомасштабного ущерба.

Но ждать катастрофы, прежде чем вводить регулирование, — это авантюра, учитывая, что новые технологии распространяются так быстро. ChatGPT может быть самым быстрорастущим программным обеспечением всех времен, которое регулярно используют 10% населения мира всего через три года после запуска.

Оно также может изменять наш мозг. Его владельца OpenAI подали в суд семьи нескольких человек, которые совершили самоубийство после часов, проведенных в ChatGPT. Одна группа кампании собрала истории более 160 человек, которые утверждают, что это повредило их психическому здоровью. Между тем ИИ сеет хаос в школьных домашних заданиях, закрепляет стереотипы, порождает новый вид зависимости и занимается художественной кражей.

Все это отошло на второй план на фоне технологического ажиотажа, к которому подхватились даже бывшие защитники безопасности. Сунак, например, занимал консультативные должности в компаниях по искусственному интеллекту Anthropic PBC и Microsoft Corp., и хотя он пообещал перечислять свою зарплату на благотворительность, эти связи будут ценными, если он уйдет из политики. Маск, который беспокоился об экзистенциальных рисках ИИ, молчал по этому поводу с момента основания xAI Corp., фирмы, которая стоит за чат-ботом Grok. Но отказ от осторожности в погоне за неопределенными экономическими выгодами может обернуться против правительств.

Кажется, что и Запад, и Азия вступили в эпоху снисходительности регуляторов. США прошли путь от издания исполнительного указа во времена президента Джо Байдена о создании более безопасного искусственного интеллекта в 2023 году до запрета этого указа во времена Дональда Трампа. Нынешняя администрация ускоренно отслеживает экспорт центров обработки данных и чипов, чтобы опередить Китай, и пытается блокировать законы об искусственном интеллекте на уровне штатов, чтобы технологические компании могли процветать. Миллиардеры Кремниевой долины, такие как Марк Андрессен, одновременно выделили десятки миллионов долларов на лоббирование против любых будущих ограничений ИИ.

Великобритания имеет опыт создания быстрого и разумного регулирования технологий, но вряд ли она начнет бороться с генеративным искусственным интеллектом. Европейский Союз отложил некоторые из самых строгих положений своего Закона об искусственном интеллекте до 2027 года, в то время как Кодекс практики к этому закону также был отложен. Европейские правила цифровой конфиденциальности когда-то были образцом для других правительств, однако так называемый брюссельский эффект вряд ли повредит искусственному интеллекту.

Китай не является исключением из этой тенденции невмешательства властей. Коммунистическая партия страны ввела политику, направленную на содействие процветанию отечественных компаний, занимающихся искусственным интеллектом. Несмотря на строгие правила, требующие от компаний социальных сетей регистрировать свои алгоритмы для предотвращения социальных беспорядков, подобные стандарты применяются только к чат-ботам или инструментам искусственного интеллекта, которые генерируют изображения или видео. Эти компании должны маркировать дипфейки и тестировать свои инструменты, чтобы убедиться, что они не создают незаконный или политически чувствительный контент.

Но чат-боты для массового потребителя — это лишь часть китайского рынка искусственного интеллекта. Крупнейшие сектора искусственного интеллекта в стране находятся в таких сферах, как промышленная автоматизация, логистика, электронная коммерция и инфраструктура искусственного интеллекта. Компании, работающие в этом направлении, получают щедрые налоговые льготы на исследования и разработки, возврат НДС и более низкий корпоративный налог, согласно исследованию Анжелы Чжан, профессора права Университета Южной Калифорнии и ведущего эксперта по вопросам регулирования китайских технологий, опубликованному в 2025 году.

Более мягкий подход Китая к компаниям, занимающимся искусственным интеллектом, объясняется тем, что КПК также является основным клиентом их инструментов, в частности технологий наблюдения, таких как распознавание лиц. Пекин инвестировал слишком много в искусственный интеллект, чтобы тормозить его развитие, а экспортные ограничения США на чипы и общенациональный экономический спад только подтолкнули Китай к росту, а не к регулированию.

«Это мало что дает защитную ценность для китайской общественности», утверждает Чжан. Она и другие специалисты по исследованиям в области безопасности предупреждали о катастрофах, вызванных искусственным интеллектом, вызванных исторически слабым подходом Китая к опасностям, от патогенов, разработанных искусственным интеллектом, до нарушения работы электрических сетей и нефтепроводов.

Среди правительств преобладает мнение, что компании, занимающиеся искусственным интеллектом, должны иметь право на самоуправление. «Послушайте, я не думаю, что кто-то хочет создавать в мире что-то, что, по их мнению, действительно нанесет значительный ущерб», — сказал Сунак. Но непредвиденные последствия часто возникают, когда технологи начинают с лучших намерений для человечества. Саморегулирование работает, пока не перестанет работать.