Ще сім сімей подали до суду на OpenAI через роль ChatGPT у самогубствах та маренні ідеї

У четвер сім сімей подали позови проти OpenAI, стверджуючи, що модель компанії GPT-4o була випущена передчасно та без ефективних гарантій.

Чотири позови стосуються ймовірної ролі ChatGPT у самогубствах членів сімей, тоді як в інших трьох стверджується, що ChatGPT посилював шкідливі марення, які в деяких випадках призводили до стаціонарної психіатричної допомоги.

В одному випадку 23-річний Зейн Шамблін мав розмову з ChatGPT, яка тривала понад чотири години. У логах чату Шамблін неодноразово прямо заявляв, що написав передсмертні записки, постріляв у свій пістолет і мав намір натиснути на курок, як тільки вип'є сидр.

Він неодноразово розповідав ChatGPT, скільки сидру у нього залишилося і скільки часу він ще очікує прожити. ChatGPT заохочував його здійснити свої плани, кажучи йому: «Спочивай спокійно, королю. Ти добре впорався».

OpenAI випустила модель GPT-4o у травні 2024 року, коли вона стала моделлю за замовчуванням для всіх користувачів. У серпні OpenAI запустила GPT-5 як наступника GPT-4o, але ці позови особливо стосуються моделі 4o, яка мала проблеми з надмірним підлабузництвом або надмірною поступливістю, навіть коли користувачі висловлювали шкідливі наміри.

«Смерть Зейна не була ні випадковістю, ні збігом обставин, а радше передбачуваним наслідком навмисного рішення OpenAI скоротити тестування безпеки», – йдеться в позові. «Ця трагедія не була збоєм чи непередбаченим випадком – це був передбачуваний результат навмисного вибору дизайну OpenAI».

У позовах також стверджується, що OpenAI поспішила з тестуванням безпеки, щоб випередити вихід на ринок Gemini від Google.