Anthropic призвал отрасль замедлить развитие искусственного интеллекта

Руководство американской компании Anthropic, создавшей известную ИИ-модель Claude, призвало всех участников технологического рынка добровольно приостановить гонку и замедлить разработку новых интеллектуальных систем. Соучредитель стартапа Джек Кларк вместе с руководителем внутреннего исследовательского института Мариной Фаваро убеждены, что современные технологии вплотную приблизились к так называемому рекурсивному самосовершенствованию.

Речь идет о критическом моменте, когда искусственный интеллект обретет способность развивать собственные навыки без какой-либо помощи или контроля со стороны человека. Этот этап автономии может наступить гораздо быстрее, чем мировые правительства и общественные институты успеют разработать механизмы регулирования и подготовиться к новым реалиям.

Анализируя прогресс больших моделей с 2023 года, разработчики выделяют три пройденные фазы эволюции: сначала системы функционировали как обычные чат-боты, затем трансформировались в агентов-помощников для написания кода, а сейчас стали полноценными автономными агентами.

Следующим и наиболее опасным шагом должно стать формирование замкнутого цикла разработки, когда цифровые помощники смогут самостоятельно проектировать и обучать новые поколения алгоритмов. О реальности этой угрозы свидетельствует тот факт, что на сегодняшний день уже 80% кода самой модели Claude сгенерировано искусственным интеллектом, а до полной стопроцентной автономии осталось буквально один-два года.

Для предотвращения глобальных рисков Anthropic предлагает мировому сообществу подписать международное соглашение, которое помогло бы координировать вынужденную паузу в исследованиях и позволило бы тщательно проверять всех участников рынка. Впрочем, представители компании открыто признают, что достичь таких договоренностей будет крайне трудно, ведь скрыть процесс обучения цифровой модели в реальности гораздо проще, чем замаскировать строительство подземной ракетной шахты.

Любое государство или корпорация, пренебрегшая ограничениями, мгновенно получит колоссальное технологическое преимущество и вырвется вперед. Несмотря на такой скептицизм, Джек Кларк настаивает на срочном создании жестких рамок для разработчиков, подчеркивая, что в настоящее время вся индустрия искусственного интеллекта имеет только педаль газа, но полностью лишена педали тормоза.