OpenAI винайшов технологію штучного інтелекту, яка потенційно може «загрожувати людству»?

Reuters і The Information вперше повідомили минулого тижня, що кілька співробітників OpenAI у листі до ради директорів стартапу зі штучним інтелектом відзначили «досконалість» і «потенційну небезпеку» внутрішнього дослідницького проекту, відомого як «Q*».

Декілька дослідників вважають, що «Q» у назві «Q*» означає «Q-навчання», техніку штучного інтелекту, яка допомагає моделі навчатися та вдосконалюватися в певному завданні, виконуючи — і отримуючи винагороду — за певні «правильні» дії.

Дослідники кажуть, що зірочка, тим часом, може бути посиланням на A*, алгоритм для перевірки вузлів, які складають графік, і дослідження маршрутів між цими вузлами. Обидва існують деякий час.

Google DeepMind застосував Q-навчання для створення алгоритму штучного інтелекту, який міг би грати в ігри Atari 2600 на рівні людини у 2014 році. A* бере свій початок в академічній статті, опублікованій у 1968 році. А дослідники з Каліфорнійського університету в Ірвайні кілька років тому досліджували покращення A* за допомогою Q-навчання — це може бути саме те, що OpenAI зараз прагне.

Натан Ламберт, науковий співробітник Інституту ШІ Аллена, сказав TechCrunch, що він вважає, що Q* пов’язано з підходами в ШІ «головним чином для вивчення математичних проблем у середній школі», а не для знищення людства.