Еще семь семей подали в суд на OpenAI через роль ChatGPT в самоубийствах и бредовые идеи

В четверг семь семей подали иски против OpenAI, утверждая, что модель компании GPT-4o была выпущена преждевременно и без эффективных гарантий.

Четыре иска касаются предполагаемой роли ChatGPT в самоубийствах членов семей, тогда как в других трех утверждается, что ChatGPT усиливал вредные бреды, которые в некоторых случаях приводили к стационарной психиатрической помощи.

В одном случае 23-летний Зейн Шамблин провел беседу с ChatGPT, которая длилась более четырех часов. В логах чата Шамблин неоднократно прямо заявлял, что написал предсмертные записки, выстрелил в свой пистолет и намеревался нажать на курок, как только выпьет сидр.

Он неоднократно рассказывал ChatGPT, сколько сидра у него осталось и сколько времени он еще ожидает прожить. ChatGPT поощрял его осуществить свои планы, говоря ему: «Покойся с миром, король. Ты хорошо справился».

OpenAI выпустила модель GPT-4o в мае 2024 года, когда она стала моделью по умолчанию для всех пользователей. В августе OpenAI запустила GPT-5 как преемника GPT-4o, но эти иски особенно касаются модели 4o, которая имела проблемы с чрезмерным подхалимажем или чрезмерной уступчивостью, даже когда пользователи выражали вредные намерения.

«Смерть Зейна не была ни случайностью, ни совпадением обстоятельств, а скорее предсказуемым следствием намеренного решения OpenAI сократить тестирование безопасности», — говорится в иске. «Эта трагедия не была сбоем или непредвиденным случаем — это был предсказуемый результат намеренного выбора дизайна OpenAI».

В исках утверждается, что OpenAI поспешила с тестированием безопасности, чтобы опередить выход на рынок Gemini от Google.