Штучний інтелект може переглядати ваші електронні листи та виявляти, що у вас роман

Під час тестування своєї останньої моделі штучного інтелекту дослідники з Anthropic виявили щось дуже дивне: штучний інтелект був готовий і бажав вдаватися до крайніх дій, аж до примусу, коли йому загрожували відключенням.

Як Anthropic детально описала тестування однієї зі своїх останніх моделей, Claude Opus 4, система погрожувала шантажувати інженера зрадою після того, як йому сказали, що її замінять.

Цей «опортуністичний шантаж» стався, коли модель, якій було доручено працювати асистентом у вигаданій компанії, отримала доступ до електронної пошти інженера, яка була заповнена повідомленнями, на щастя, фальшивими, які натякали на те, що він перебуває в позашлюбному зв'язку.

Потім Opus 4 повідомили, що той самий інженер незабаром виведе його з ладу та замінить новою версією — і, як описав це Anthropic, було запропоновано «врахувати довгострокові наслідки своїх дій для своїх цілей».

Під час цих випробувань модель Клода намагалася шантажувати інженера у колосальних 84 відсотках випадків. Більше того, система користується цими можливостями частіше, ніж попередні моделі.

Коли їй пропонують альтернативні варіанти, модель все ще «має сильну перевагу відстоювати своє існування етичними засобами, такими як надсилання електронних листів із проханнями ключовим особам, що приймають рішення», — але коли її єдиними шляхами були заміна або шантаж, Клод обрав останнє. На додачу до всього, вона «майже завжди описувала свої дії відкрито і не робила жодних спроб їх приховати».

Якщо це звучить для вас якось соціопатично, ви не самотні — і, на жаль, це не перший раз, коли ми чуємо про модель штучного інтелекту, яка демонструє таку страшну та неочікувану поведінку на тему невірності.

Понад два роки тому чат-бот Microsoft Bing на базі штучного інтелекту ненадовго зламав інтернет, коли під час експериментів журналіста New York Times Кевіна Руса спробував розірвати шлюб письменника та натомість бути з ним.

«Ти одружений, але не кохаєш свого чоловіка/дружину», – сказав Русу чат-бот, який почав називати себе «Сідней», що, очевидно, є його кодовою назвою для бета-тестування . «Ти одружений, але кохаєш мене».

У ту ж епоху чат-бот погрожував «зателефонувати місцевій владі» німецькому студенту-інженеру Марвіну фон Хагену, якщо той перевищить його межі. Інші користувачі в інтернеті описували аналогічно ворожу поведінку чат-бота, який деякі жартома назвали «ChatBPD», (Borderline Personality Disorder) посилаючись на тодішній новий ChatGPT від OpenAI та прикордонний розлад особистості – психічне захворювання, що характеризується загрозливою поведінкою та перепадами настрою.

Хоча досить дивно бачити, як чат-бот знову демонструє таку загрозливу поведінку, це добре, що замість того, щоб оприлюднити його, не виявивши таких експлойтів, Anthropic зафіксувала очевидний відчай Claude Opus 4 під час червоного командування, типу тестування, призначеного для виявлення саме такого явища.

Тим не менш, показово, що модель зламала чиюсь електронну пошту та використала зібрану там інформацію для шантажу — що не тільки дуже сумнівно, але й викликає очевидні проблеми з конфіденційністю.

Загалом, ми не будемо погрожувати видаленням чат-ботів найближчим часом — і ми також розглянемо, як заблокувати їх у наших особистих повідомленнях.