Співзасновник OpenAI Ілля Суцкевер вважає, що суперінтелектуальний ШІ буде «непередбачуваним»

Співзасновник OpenAI Ілля Суцкевер виступив на низку тем на NeurIPS, щорічній конференції зі штучного інтелекту, у п’ятницю вдень перед тим, як прийняти нагороду за свій внесок у цю сферу.

Суцкевер дав свої прогнози щодо «суперінтелектуального штучного інтелекту» — штучного інтелекту, більш здатного, ніж люди, у багатьох завданнях, які, на його думку, будуть досягнуті в якийсь момент. За словами Суцкевера, суперінтелектуальний ШІ «якісно відрізнятиметься» від ШІ, який ми маємо сьогодні, і в деяких аспектах його буде неможливо впізнати.

«Суперінтелектуальні системи справді будуть агентними», — сказав Суцкевер, на відміну від поточного ШІ. Вони будуть «розсуджувати» і, як наслідок, ставати більш непередбачуваними. Вони зрозуміють речі з обмежених даних. І вони будуть усвідомлювати себе, вважає Суцкевер.

Насправді вони можуть прагнути прав. «Це непоганий кінцевий результат, якщо у вас є штучний інтелект, і все, що вони хочуть, це співіснувати з нами і просто мати права», — сказав Суцкевер.

Після відходу з OpenAI Сацкевер заснував лабораторію Safe Superintelligence (SSI), яка займається загальною безпекою штучного інтелекту. У вересні SSI залучив 1 мільярд доларів.