Генеральный директор Anthropic хочет открыть чёрный ящик моделей ИИ до 2027 года

Генеральный директор Anthropic Дарио Амодей в четверг опубликовал эссе, в котором подчеркнул, как мало исследователи понимают внутреннюю работу ведущих мировых моделей ИИ.

Чтобы решить эту проблему, Amodei поставил перед Anthropic амбициозную цель надежно выявлять большинство проблем модели ИИ к 2027 году, пишет TechCrunch.

Амодей признает, что впереди есть вызов. В «Срочности интерпретации» генеральный директор говорит, что Anthropic сделал ранние прорывы в отслеживании того, как модели получают ответы, но подчеркивает, что для декодирования этих систем требуются дополнительные исследования, поскольку они становятся все более мощными.

«Меня очень волнует развертывание таких систем без лучшей обработки интерпретации», — написал Амодей в эссе. «Эти системы будут занимать центральное место в экономике, технологиях и национальной безопасности, и они будут настолько автономными, что я считаю совершенно неприемлемым для человечества совершенно не знать, как они работают».

Anthropic является одной из компаний-пионеров в области механистической интерпретации, отрасли, которая стремится открыть черный ящик моделей ИИ и понять, почему они принимают такие решения. Несмотря на быстрое повышение производительности моделей искусственного интеллекта технологической индустрии, мы все еще мало представляем, как эти системы принимают решения.