OpenAI изобрел технологию искусственного интеллекта, которая потенциально может "угрожать человечеству"?

Reuters и The Information впервые сообщили на прошлой неделе, что несколько сотрудников OpenAI в письме к совету директоров стартапа с искусственным интеллектом отметили "совершенство" и "потенциальную опасность" внутреннего исследовательского проекта, известного как "Q*".

Несколько исследователей считают, что "Q" в названии "Q*" означает "Q-обучение", технику искусственного интеллекта, которая помогает модели учиться и совершенствоваться в определенной задаче, выполняя - и получая вознаграждение - за определенные "правильные" действия.

Исследователи говорят, что звездочка, тем временем, может быть ссылкой на A*, алгоритм для проверки узлов, которые составляют график, и исследования маршрутов между этими узлами. Оба существуют некоторое время.

Google DeepMind применил Q-обучение для создания алгоритма искусственного интеллекта, который мог бы играть в игры Atari 2600 на уровне человека в 2014 году. A* берет свое начало в академической статье, опубликованной в 1968 году. А исследователи из Калифорнийского университета в Ирвайне несколько лет назад исследовали улучшение A* с помощью Q-обучения - это может быть именно то, к чему OpenAI сейчас стремится.

Натан Ламберт, научный сотрудник Института ИИ Аллена, сказал TechCrunch, что он считает, что Q* связано с подходами в ИИ "главным образом для изучения математических проблем в средней школе", а не для уничтожения человечества.