Генеральний директор Anthropic хоче відкрити чорну скриньку моделей ШІ до 2027 року

Генеральний директор Anthropic Даріо Амодей у ​​четвер опублікував есе, в якому підкреслив, як мало дослідники розуміють внутрішню роботу провідних світових моделей ШІ.

Щоб вирішити цю проблему, Amodei поставив перед Anthropic амбітну мету надійно виявляти більшість проблем моделі ШІ до 2027 року, пише TechCrunch.

Амодей визнає, що попереду є виклик. У «Терміновості інтерпретації» генеральний директор каже, що Anthropic зробив ранні прориви у відстеженні того, як моделі отримують відповіді, але підкреслює, що для декодування цих систем потрібні додаткові дослідження, оскільки вони стають все більш потужними.

«Мене дуже хвилює розгортання таких систем без кращої обробки інтерпретації», — написав Амодей в есе. «Ці системи будуть займати центральне місце в економіці, технологіях і національній безпеці, і вони будуть настільки автономними, що я вважаю абсолютно неприйнятним для людства абсолютно не знати, як вони працюють».

Anthropic є однією з компаній-піонерів у галузі механістичної інтерпретації, галузі, яка прагне відкрити чорну скриньку моделей ШІ та зрозуміти, чому вони приймають такі рішення. Незважаючи на швидке підвищення продуктивності моделей штучного інтелекту технологічної індустрії, ми все ще мало уявляємо, як ці системи приймають рішення.