Илон Маск говорит, что вероятность, что ИИ уничтожит человечество составляет 20%

Выступая на семинаре "Great AI Debate" во время четырехдневного саммита Abundance Summit в начале этого месяца, Маск перечислил свою предварительную оценку риска технологии, сказав: "Я думаю, что есть определенный шанс, что это приведет к концу человечества. Я, пожалуй, согласен с Джеффом Хинтоном. что это примерно 10% или 20%.

В этом году на Abundance Summit Маск оценил, что к 2030 году цифровой интеллект превысит весь человеческий интеллект вместе взятый. Хотя он утверждает, что потенциальные положительные стороны перевешивают негативные, Маск признал риск для мира, если искусственный интеллект продолжит развиваться таким образом, как это происходит сейчас. 

"Вы как будто выращиваете ИИ. Это почти как воспитывать ребенка, но такого, который похож на супергения, как богоподобного умного ребенка - и важно, как вы его воспитываете", — сказал Маск. "Одна из вещей, которые, на мой взгляд, невероятно важны для безопасности искусственного интеллекта, — это иметь максимально любознательного и правдивого ИИ".

Маск сказал, что его "окончательный вывод" относительно лучшего способа достижения безопасности ИИ заключается в том, чтобы развивать ИИ таким образом, чтобы он был правдивым.

"Не заставляйте его лгать, даже если правда неприятна", — сказал Маск о лучшем способе защитить людей от технологий. "Это очень важно. Не заставляйте ИИ врать".

Источник: Dev.ua