Технології Чому Сем Альтман втрачає сон? Генеральний директор OpenAI відповідає на суперечливі питання в масштабному інтерв’ю

Минулого тижня у масштабному інтерв’ю генеральний директор OpenAI Сем Альтман розглянув безліч моральних та етичних питань щодо своєї компанії та популярної моделі штучного інтелекту ChatGPT.  

«Послухайте, я погано сплю вночі. Є багато речей, які мене дуже турбують, але, мабуть, не більше того, що щодня сотні мільйонів людей спілкуються з нашою моделлю», – сказав Альтман ведучому Fox News Такеру Карлсону в інтерв’ю. 

«Я насправді не хвилююся, що ми помиляємося у важливих моральних рішеннях», — сказав Альтман, хоча й визнав, що «можливо, ми помилятимемося й у цих випадках». 

Швидше, він сказав, що найбільше втрачає сон через «дуже дрібні рішення» щодо поведінки моделі, які зрештою можуть мати великі наслідки.

Ці рішення, як правило, зосереджуються на етичних принципах, на яких базується ChatGPT, та на тих питаннях, на які чат-бот відповідає, а на які ні. Ось короткий огляд деяких із цих моральних та етичних дилем, які, здається, не дають Альтману спати вночі.

Як ChatGPT вирішує проблему самогубства?

За словами Альтмана, найскладнішим питанням, з яким компанія останнім часом стикається, є те, як ChatGPT отримали позов від родини, яка звинуватила чат-бота у самогубстві свого сина-підлітка.

Генеральний директор сказав, що з тисяч людей, які щотижня вчиняють самогубство, багато хто з них, можливо, спілкувався з ChatGPT напередодні.

«Вони, мабуть, говорили про самогубство, і ми, ймовірно, не врятували їм життя», – відверто сказав Альтман. «Можливо, ми могли б сказати щось краще. Можливо, ми могли б бути більш проактивними. Можливо, ми могли б дати трохи кращу пораду щодо того, що вам потрібна допомога». 

Минулого місяця батьки Адама Рейна подали позов проти OpenAI про відповідальність за якість продукції та неправомірне вбивство після того, як їхній син помер самогубством у віці 16 років. У позові родина заявила, що «ChatGPT активно допомагав Адаму досліджувати методи самогубства».

Невдовзі після цього, у дописі в блозі під назвою «Допомога людям, коли вони цього найбільше потребують», OpenAI детально описав плани щодо усунення недоліків ChatGPT під час обробки «делікатних ситуацій» і заявив, що продовжуватиме вдосконалювати свою технологію для захисту найбільш вразливих людей. 

Як визначається етика ChatGPT?

Ще однією важливою темою, порушеною під час інтерв’ю, були етика та мораль, якими керуються ChatGPT та його керівники. 

Хоча Альтман описав базову модель ChatGPT як таку, що навчається на колективному досвіді, знаннях та навчанні людства, він зазначив, що OpenAI має узгодити певні моделі поведінки чат-бота та вирішити, на які питання він не відповість. 

«Це справді складна проблема. Зараз у нас багато користувачів, і вони мають дуже різні життєві погляди. Але загалом я був приємно здивований здатністю моделі навчатися та застосовувати моральну систему». 

Коли Альтмана запитали, як визначаються певні специфікації моделей, він сказав, що компанія проконсультувалася «з сотнями моральних філософів та людей, які розмірковували над етикою технологій та систем».

Як приклад розробленої ним специфікації моделі, ChatGPT уникатиме відповідей на запитання про те, як створювати біологічну зброю, якщо цього запропонують користувачі.

«Є чіткі приклади того, як суспільний інтерес значно суперечить свободі користувачів», – сказав Альтман, хоча й додав, що компанія «не зробить усе правильно, а також потребує внеску світу», щоб допомогти прийняти ці рішення.

Наскільки приватним є ChatGPT?

Ще однією важливою темою для обговорення була концепція конфіденційності користувачів щодо чат-ботів, причому Карлсон стверджував, що генеративний штучний інтелект може бути використаний для «тоталітарного контролю».

У відповідь Альтман сказав, що одним із напрямків політики, який він просуває у Вашингтоні, є «привілей штучного інтелекту», що означає ідею про те, що все, що користувач каже чат-боту, має бути повністю конфіденційним. 

«Коли ви розмовляєте з лікарем про своє здоров’я або з адвокатом про свої юридичні проблеми, уряд не може отримати цю інформацію, чи не так? Я думаю, що ми повинні мати таку ж концепцію для штучного інтелекту». 

За словами Альтмана, це дозволить користувачам звертатися до чат-ботів зі штучним інтелектом щодо їхньої історії хвороби та юридичних проблем, серед іншого. Наразі він додав, що посадовці США можуть вимагати від компанії дані користувачів.

«Я думаю, що я оптимістично налаштований щодо того, що нам вдасться змусити уряд зрозуміти важливість цього», – сказав він. 

Чи буде ChatGPT використовуватися у військових операціях?

На запитання Карлсона, чи буде ChatGPT використовуватися військовими для завдання шкоди людям, Альтман не дав прямої відповіді.

«Я не знаю, як військові використовують ChatGPT сьогодні, але підозрюю, що багато військових звертаються до ChatGPT за порадою».

Пізніше він додав, що не зовсім розуміє, «як саме до цього ставитися».

OpenAI була однією з компаній зі штучного інтелекту, яка отримала контракт на 200 мільйонів доларів від Міністерства оборони США на впровадження генеративного штучного інтелекту для американських військових. У своєму блозі компанія заявила, що надасть уряду США доступ до спеціалізованих моделей штучного інтелекту для цілей національної безпеки, підтримки та інформації про дорожню карту продукту.

Наскільки потужний OpenAI?

У своєму інтерв’ю Карлсон передбачив, що на своїй нинішній траєкторії генеративний ШІ, а отже, і Сем Альтман, можуть накопичити більше влади, ніж будь-яка інша людина, навіть назвавши ChatGPT «релігією».

У відповідь Альтман сказав, що раніше його дуже непокоїла концентрація влади, яка може виникнути в результаті генеративного ШІ, але тепер він вважає, що ШІ призведе до «величезного підвищення рівня» всіх людей.