Илья Суцкевер имеет новый план безопасного суперинтеллекта

Последние несколько месяцев вопрос «Где Илья?» стало привычным рефреном в мире искусственного интеллекта. Илья Суцкевер, известный исследователь, являвшийся соучредителем OpenAI, участвовал в изгнании Сэма Альтмана из правления 2023 года как генерального директора, прежде чем сменить курс и помочь вернуться инженеру Альтману. 

Сейчас он представляет новый проект, предприятие под названием Safe Superintelligence Inc., направленное на создание безопасной, мощной системы искусственного интеллекта в чисто исследовательской организации, не имеющей ближайших намерений продавать продукты или услуги ИИ.

Иными словами, он пытается продолжать свою работу без многих отвлечений, с которыми сталкиваются конкуренты, такие как OpenAI, Google и Anthropic. 

Эта компания особенно тем, что ее первым продуктом будет безопасный суперинтеллект, и к тому времени она больше ничего не будет делать», – рассказывает Суцкевер в эксклюзивном интервью о своих планах. «Он будет полностью изолирован от внешнего давления, когда придется столкнуться с большим и сложным продуктом и застрять в соревновательной крысиной гонке».

Суцкевер отказывается назвать имена финансовых спонсоров Safe Superintelligence или раскрыть сумму, которую он собрал.

Как подчеркивает название компании, Sutskever сделал безопасность ИИ главным приоритетом. Фокус, конечно, состоит в том, чтобы определить, что именно делает одну систему искусственного интеллекта безопаснее другой или, на самом деле, безопаснее вообще.В настоящее время Суцкевер не говорит об этом четко, хотя он предполагает, что новое предприятие будет пытаться достичь безопасности с помощью инженерных прорывов, встроенных в систему искусственного интеллекта, а не полагаться на ограждения, применяемые к технологии.

Суцкевер имеет двух соучредителей. Одним из них есть инвестор и бывший руководитель отдела искусственного интеллекта Apple Inc. Дэниэл Гросс, привлекший внимание, поддерживая ряд известных стартапов с искусственным интеллектом, в частности Keen Technologies.

Другим соучредителем является Дэниел Леви, который создал прочную репутацию за обучение большим моделям искусственного интеллекта, работая вместе с Суцкевером в OpenAI.

«Я считаю, что пора для такого проекта», – говорит Леви. «Мое видение такое же, как и у Ильи: небольшая команда, где каждый сосредоточен на единственной цели – безопасном суперинтеллекте». 

Safe Superintelligence будет иметь офисы в Пало-Альто, Калифорния и Тель-Авиве. И Суцкевер и Гросс выросли в Израиле.

Учитывая почти мифическое место Суцкевера в промышленности искусственного интеллекта, неопределенность вокруг его статуса была фиксацией Кремниевой долины в течение нескольких месяцев. Будучи университетским исследователем, а затем ученым Google, он сыграл немаловажную роль в разработке ряда ключевых достижений ИИ. Его участие в первых днях создания OpenAI помогло ему привлечь лучшие таланты, важные для его успеха.

Он стал известен как главный поклонник создания все больших моделей – стратегия, которая помогла стартапу опередить Google и оказалась решающей для роста ChatGPT.Safe Superintelligence – это определенное возвращение к оригинальной концепции OpenAI: исследовательская организация пытается создать искусственный общий интеллект, который мог бы сравниться с людьми, а возможно, и превзойти их во многих задачах.

Но структура OpenAI эволюционировала, поскольку стала очевидна потребность собрать огромные суммы денег для вычислительной мощности. Это привело к тесному партнерству компании Microsoft Corp. и способствовало ее стремлению создавать прибыльные продукты. Все основные игроки ИИ сталкиваются с версией той же головоломки, вынуждены платить за постоянно растущие вычислительные требования, поскольку модели ИИ продолжают расти в размерах с экспоненциальной скоростью.

Эти экономические реалии делают Safe SuperIntelligence азартной игрой для инвесторов, которые сделали бы ставку на то, что Сацкевер и его команда достигнут прорыва, чтобы дать преимущество над соперниками с большими командами и значительным стартом. Эти инвесторы будут вкладывать деньги без надежды на создание прибыльных хитовых продуктов.

И совершенно непонятно, возможно ли то, на что надеется Safe Superintelligence. С помощью «суперинтеллекта» компания использует индустриальный жаргон искусственного интеллекта для обозначения системы, которая будет в другой лиге, чем искусственный интеллект человеческого уровня, к которому стремятся большинство крупнейших технологических игроков. В отрасли нет консенсуса относительно того, достижим ли такой интеллект и как компания будет его создавать.

Суцкевер говорит, что большие языковые модели, которые доминировали в искусственном интеллекте, будут играть важную роль.

Источник: Bloomberg