ChatGPT отримав право на самоврядування. Що може піти не так?

Колишній прем'єр-міністр Великої Британії Ріші Сунак колись вважав штучний інтелект настільки ризикованим, що у 2023 році організував перший у світі «Саміт з безпеки штучного інтелекту», запросивши політиків та давнього борця зі штучним інтелектом Ілона Маска обговорити запобіжні заходи для буму, спричиненого ChatGPT. Через два роки його погляди значно пом'якшилися.

«Найправильніше тут — не регулювати», — сказав він мені минулого місяця на Форумі нової економіки, зазначивши, що такі компанії, як OpenAI, «дуже добре співпрацюють» з дослідниками безпеки в Лондоні, які тестують їхні моделі на наявність потенційної шкоди. Ці фірми добровільно зголосилися пройти аудит. Коли я зазначив, що вони можуть змінити свою думку в майбутньому, Сунак відповів: «Поки що ми ще не досягли цієї точки, що є позитивним моментом». Але що станеться, коли ми її досягнемо?

Зміна Сунаком своєї позиції, коли він колись заявляв, що Британія має бути «батьківщиною регулювання безпеки штучного інтелекту», до відмови від будь-якого законодавства взагалі, відображає ширші зміни, що відбуваються з урядами всього світу. За цим стоїть прагнення скористатися технологіями, які могли б відродити застійні економіки, та відчуття, що суворі правила не потрібні без чітких доказів широкомасштабної шкоди.

Але чекати катастрофи, перш ніж вводити регулювання, – це авантюра, враховуючи, що нові технології поширюються так швидко. ChatGPT може бути найшвидше зростаючим програмним забезпеченням усіх часів, яке регулярно використовують 10% населення світу лише через три роки після запуску.

Воно також може змінювати наш мозок. Його власника OpenAI подали до суду родини кількох людей, які скоїли суїцид після годин, проведених у ChatGPT. Одна група кампанії зібрала історії понад 160 людей, які стверджують, що це зашкодило їхньому психічному здоров'ю. Тим часом ШІ сіяє хаос у шкільних домашніх завданнях, закріплює стереотипи, породжує новий вид залежності та займається художньою крадіжкою.

Все це відійшло на другий план на тлі технологічного ажіотажу, до якого підхопилися навіть колишні захисники безпеки. Сунак, наприклад, обіймав консультативні посади в компаніях зі штучного інтелекту Anthropic PBC та Microsoft Corp., і хоча він пообіцяв перераховувати свою зарплату на благодійність, ці зв'язки будуть цінними, якщо він піде з політики. Маск, який непокоївся екзистенційними ризиками ШІ, мовчав з цього приводу з моменту заснування xAI Corp., фірми, яка стоїть за чат-ботом Grok. Але відмова від обережності в гонитві за невизначеними економічними вигодами може обернутися проти урядів.

Здається, що і Захід, і Азія вступили в епоху поблажливості регуляторів. США пройшли шлях від видання виконавчого наказу за часів президента Джо Байдена про створення безпечнішого штучного інтелекту у 2023 році до заборони цього наказу за часів Дональда Трампа. Поточна адміністрація прискорено відстежує експорт центрів обробки даних та чіпів, щоб випередити Китай, і намагається блокувати закони про штучний інтелект на рівні штатів, щоб технологічні компанії могли процвітати. Мільярдери Кремнієвої долини, такі як Марк Андріссен, одночасно виділили десятки мільйонів доларів на лобіювання проти будь-яких майбутніх обмежень ШІ.

Велика Британія має досвід створення швидкого та розумного регулювання технологій, але навряд чи вона почне боротися з генеративним штучним інтелектом. Європейський Союз відклав деякі з найсуворіших положень свого Закону про штучний інтелект до 2027 року, тоді як Кодекс практики до цього закону також було відкладено. Європейські правила цифрової конфіденційності колись були зразком для інших урядів, проте так званий брюссельський ефект навряд чи зашкодить штучному інтелекту.

Китай не є винятком із цієї тенденції невтручання влади. Комуністична партія країни запровадила політику, спрямовану на сприяння процвітанню вітчизняних компаній, що займаються штучним інтелектом. Незважаючи на суворі правила, що вимагають від компаній соціальних мереж реєструвати свої алгоритми для запобігання соціальним заворушенням, подібні стандарти застосовуються лише до чат-ботів або інструментів штучного інтелекту, які генерують зображення чи відео. Ці компанії повинні маркувати діпфейки та тестувати свої інструменти, щоб переконатися, що вони не створюють незаконний або політично чутливий контент.

Але чат-боти для масового споживача – це лише частина китайського ринку штучного інтелекту. Найбільші сектори штучного інтелекту в країні знаходяться в таких сферах, як промислова автоматизація, логістика, електронна комерція та інфраструктура штучного інтелекту. Компанії, що працюють у цьому напрямку, отримують щедрі податкові пільги на дослідження та розробки, повернення ПДВ та нижчий корпоративний податок, згідно з дослідницькою роботою Анжели Чжан, професорки права Університету Південної Каліфорнії та провідного експерта з питань регулювання китайських технологій, опублікованою у 2025 році.

Більш м'який підхід Китаю до компаній, що займаються штучним інтелектом, пояснюється тим, що КПК також є основним клієнтом їхніх інструментів, зокрема технологій спостереження, таких як розпізнавання облич. Пекін інвестував занадто багато в штучний інтелект, щоб загальмувати його розвиток, а експортні обмеження США на чіпи та загальнонаціональний економічний спад лише підштовхнули Китай до зростання, а не до регулювання.

«Це мало що дає захисну цінність для китайської громадськості», стверджує Чжан. Вона та інші фахівці з досліджень у галузі безпеки попереджали про катастрофи, спричинені штучним інтелектом, спричинені історично слабким підходом Китаю до небезпек, від патогенів, розроблених штучним інтелектом, до порушення роботи електричних мереж та нафтопроводів.

Серед урядів панує думка, що компанії, що займаються штучним інтелектом, повинні мати право на самоврядування. «Послухайте, я не думаю, що хтось хоче створювати у світі щось, що, на їхню думку, справді завдасть значної шкоди», — сказав Сунак. Але непередбачені наслідки часто виникають, коли технологи починають з найкращих намірів для людства. Саморегулювання працює, доки не перестане працювати.