Ілля Суцкевер має новий план безпечного суперінтелекту

Останні кілька місяців питання «Де Ілля?» стало звичним рефреном у світі штучного інтелекту. Ілля Суцкевер, відомий дослідник, який був співзасновником OpenAI, брав участь у вигнанні Сема Альтмана з правління 2023 року як генерального директора, перш ніж змінити курс і допомогти повернутися інженеру Альтману. 

Зараз він представляє новий проект, підприємство під назвою Safe Superintelligence Inc., спрямоване на створення безпечної, потужної системи штучного інтелекту в чисто дослідницькій організації, яка не має найближчих намірів продавати продукти чи послуги ШІ.

Іншими словами, він намагається продовжувати свою роботу без багатьох відволікань, з якими стикаються конкуренти, такі як OpenAI, Google і Anthropic. 

Ця компанія особлива тим, що її першим продуктом буде безпечний суперінтелект, і до того часу вона більше нічого не робитиме», – розповідає Суцкевер в ексклюзивному інтерв’ю про свої плани. «Він буде повністю ізольований від зовнішнього тиску, коли доведеться мати справу з великим і складним продуктом і застрягти в змагальній щурячій гонці».

Суцкевер відмовляється назвати імена фінансових спонсорів Safe Superintelligence або розкрити суму, яку він зібрав.

Як підкреслює назва компанії, Sutskever зробив безпеку ШІ головним пріоритетом. Фокус, звичайно, полягає в тому, щоб визначити, що саме робить одну систему штучного інтелекту безпечнішою за іншу або, насправді, безпечнішою взагалі. На даний момент Суцкевер не говорить про це чітко, хоча він припускає, що нове підприємство намагатиметься досягти безпеки за допомогою інженерних проривів, вбудованих у систему штучного інтелекту, а не покладатися на огорожі, які застосовуються до технології.

Суцкевер має двох співзасновників. Одним з них є інвестор і колишній керівник відділу штучного інтелекту Apple Inc. Деніел Гросс, який привернув увагу, підтримуючи низку відомих стартапів зі штучним інтелектом, зокрема Keen Technologies.

Іншим співзасновником є Деніел Леві, який створив міцну репутацію за навчання великих моделей штучного інтелекту, працюючи разом із Суцкевером у OpenAI.

«Я вважаю, що настав час для такого проекту», – каже Леві. «Моє бачення таке ж, як і в Іллі: невелика команда, де кожен зосереджений на єдиній меті – безпечному суперінтелекті». 

Safe Superintelligence матиме офіси в Пало-Альто, Каліфорнія, і Тель-Авіві. І Суцкевер, і Гросс виросли в Ізраїлі.

Враховуючи майже міфічне місце Суцкевера в індустрії штучного інтелекту, невизначеність навколо його статусу була фіксацією Кремнієвої долини протягом кількох місяців. Будучи університетським дослідником, а потім науковцем Google, він відіграв важливу роль у розробці низки ключових досягнень ШІ. Його участь у перших днях створення OpenAI допомогла йому залучити найкращі таланти, які були важливими для його успіху. Він став відомим як головний прихильник створення все більших моделей – стратегія, яка допомогла стартапу випередити Google і виявилася вирішальною для зростання ChatGPT.

Safe Superintelligence – це певним чином повернення до оригінальної концепції OpenAI: дослідницька організація намагається створити штучний загальний інтелект, який міг би зрівнятися з людьми, а можливо, і перевершити їх у багатьох завданнях. Але структура OpenAI еволюціонувала, оскільки стала очевидною потреба зібрати величезні суми грошей для обчислювальної потужності. Це призвело до тісного партнерства компанії з Microsoft Corp. і сприяло її прагненню створювати прибуткові продукти. Усі основні гравці ШІ стикаються з версією тієї самої головоломки, змушені платити за постійно зростаючі обчислювальні вимоги, оскільки моделі ШІ продовжують рости в розмірах із експоненціальною швидкістю.

Ці економічні реалії роблять Safe SuperIntelligence азартною грою для інвесторів, які б зробили ставку на те, що Сацкевер і його команда досягнуть прориву, щоб дати перевагу над суперниками з більшими командами та значним стартом. Ці інвестори вкладатимуть гроші без надії на створення прибуткових хітових продуктів.

І зовсім незрозуміло, чи можливо те, на що сподівається Safe Superintelligence. За допомогою «суперінтелекту» компанія використовує індустріальний жаргон штучного інтелекту для позначення системи, яка буде в іншій лізі, ніж штучний інтелект людського рівня, якого прагнуть більшість найбільших технологічних гравців. У галузі немає консенсусу щодо того, чи такий інтелект досяжний і як компанія буде його створювати.

Суцкевер каже, що великі мовні моделі, які домінували в штучному інтелекті, відіграватимуть важливу роль у безпечному суперінтелекті, але він прагне до чогось набагато потужнішого.Система, яку він хоче розвивати, буде більш універсальною та розширеною за своїми можливостями.

Джерело: Bloomberg