Anthropic закликав галузь сповільнити розвиток штучного інтелекту

Керівництво американської компанії Anthropic, яка створила відому ШІ-модель Claude, виступило із закликом до всіх гравців технологічного ринку добровільно призупинити перегони та уповільнити створення нових інтелектуальних систем. Співзасновник стартапу Джек Кларк разом із очільницею внутрішнього дослідницького інституту Мариною Фаваро переконані, що сучасні технології впритул наблизилися до так званого рекурсивного самовдосконалення.

Йдеться про критичний момент, коли штучний інтелект отримає здатність розвивати власні навички без будь-якої допомоги чи контролю з боку людини. Цей етап автономії може настати набагато швидше, ніж світові уряди та суспільні інституції встигнуть розробити механізми регулювання та підготуватися до нових реалій.

Аналізуючи прогрес великих моделей з 2023 року, розробники виділяють три пройдені фази еволюції: спочатку системи функціонували як звичайні чатботи, згодом трансформувалися в агентів-помічників для написання коду, а зараз стали повноцінними автономними агентами.

Наступним і найбільш небезпечним кроком має стати формування замкненої петлі розробки, коли цифрові помічники зможуть самостійно проектувати та тренувати нові покоління алгоритмів. Про реальність цієї загрози свідчить той факт, що на сьогодні вже 80% коду самої моделі Claude згенеровано штучним інтелектом, а до повної стовідсоткової автономії залишилося буквально один-два роки.

Для запобігання глобальним ризикам Anthropic пропонує світовій спільноті підписати міжнародну угоду, яка б допомогла координувати вимушену паузу у дослідженнях та дозволила ретельно перевіряти всіх учасників ринку. Утім, представники компанії відкрито визнають, що досягти таких домовленостей буде вкрай важко, адже приховати процес навчання цифрової моделі в реальності набагато простіше, ніж замаскувати будівництво підземної ракетної шахти.

Будь-яка держава чи корпорація, яка знехтує обмеженнями, миттєво отримає колосальну технологічну перевагу та вирветься вперед. Попри такий скепсис, Джек Кларк наполягає на терміновому створенні жорстких рамок для розробників, наголошуючи, що наразі вся індустрія штучного інтелекту має лише педаль газу, але повністю позбавлена педалі гальма.