Ілон Маск каже, що ймовірність, що ШІ знищить людство становить 20%

Виступаючи на семінарі «Great AI Debate» під час чотириденного саміту Abundance Summit на початку цього місяця, Маск перерахував свою попередню оцінку ризику технології, сказавши: «Я думаю, що є певний шанс, що це призведе до кінця людства. Я, мабуть, погоджуюся з Джеффом Хінтоном. що це приблизно 10% або 20%.

Цього року, на Abundance Summit, Маск оцінив, що до 2030 року цифровий інтелект перевищить весь людський разом узятий. Хоча він стверджує, що потенційні позитивні сторони переважають негативні, Маск визнав ризик для світу, якщо штучний інтелект продовжить розвиватися таким чином, як це відбувається зараз. 

«Ви начебто вирощуєте ШІ. Це майже як виховувати дитину, але таку, яка схожа на супергенія, як богоподібну розумну дитину — і важливо, як ви її виховуєте», — сказав Маск. «Одна з речей, які, на мій погляд, неймовірно важливі для безпеки штучного інтелекту, — це мати максимально допитливого та правдивого ШІ».

Маск сказав, що його «остаточний висновок» щодо найкращого способу досягнення безпеки ШІ полягає в тому, щоб розвивати ШІ таким чином, щоб він був правдивим.

«Не змушуйте його брехати, навіть якщо правда неприємна», — сказав Маск про найкращий спосіб захистити людей від технологій. «Це дуже важливо. Не змушуйте ШІ брехати».

Джерело: Dev.ua