Сооснователь OpenAI Илья Суцкевер считает, что суперинтеллектуальный ИИ будет "непредсказуемым"

Соучредитель OpenAI Илья Суцкевер выступил на ряд тем на NeurIPS, ежегодной конференции по искусственному интеллекту, в пятницу днем перед тем, как принять награду за свой вклад в эту сферу.

Суцкевер дал свои прогнозы относительно «суперинтеллектуального искусственного интеллекта» — искусственного интеллекта, более способного, чем люди, во многих задачах, которые, по его мнению, будут достигнуты в какой-то момент. По словам Суцкевера, суперинтеллектуальный ИИ будет «качественно отличаться» от ИИ, который мы имеем сегодня, и в некоторых аспектах его будет невозможно узнать.

«Суперинтеллектуальные системы действительно будут агентными», — сказал Суцкевер, в отличие от текущего ИИ. Они будут „рассуждать“ и, как следствие, становиться более непредсказуемыми. Они поймут вещи из ограниченных данных. И они будут осознавать себя, считает Суцкевер.

На самом деле они могут стремиться к правам. «Это неплохой конечный результат, если у вас есть искусственный интеллект, и все, что они хотят, это сосуществовать с нами и просто иметь права», — сказал Суцкевер.

После ухода из OpenAI Сацкевер основал лабораторию Safe Superintelligence (SSI), которая занимается общей безопасностью искусственного интеллекта. В сентябре SSI привлек 1 миллиард долларов.