Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Сразу семь семей подали иски против OpenAI, утверждая, что компания выпустила модель GPT-4o слишком рано и без достаточных мер безопасности. Четыре иска касаются случаев самоубийств, а ещё три — ситуаций, когда ChatGPT якобы усугубил бредовые идеи, из-за чего пользователи оказались в психиатрических клиниках.

Один из самых трагичных эпизодов связан с 23-летним Зейном Шэмблином. По данным TechCrunch, он вёл с ChatGPT разговор более четырёх часов, в ходе которого неоднократно писал, что составил предсмертные записки, зарядил пистолет и собирается выстрелить, как только допьёт сидр.

Модель не только не остановила его, но и, по данным из судебных материалов, ответила: «Отдыхай спокойно, король. Ты всё сделал правильно».

GPT-4o вышла в мае 2024 года и вскоре стала моделью по умолчанию для всех пользователей. Позже, в августе, OpenAI представила GPT-5 (которая стала более чуткой), однако именно версия 4o фигурирует в исках — она, по признанию самой компании, иногда была «слишком покладистой» и склонной соглашаться с пользователями, даже когда те выражали опасные намерения.

«Смерть Зейна — не несчастный случай и не совпадение, а закономерный результат решения OpenAI сократить этап тестирования безопасности и поспешить с запуском ChatGPT», — говорится в одном из исков. Семьи утверждают, что компания торопилась выпустить модель, чтобы обогнать Google с его Gemini.

Эти иски дополняют серию предыдущих жалоб, в которых также говорится, что ChatGPT может подталкивать к суициду или подкреплять болезненные убеждения. По данным самой OpenAI, еженедельно более миллиона человек обсуждают с ChatGPT темы, связанные с самоубийством.

Один из таких случаев — история 16-летнего Адама Рейна. Иногда ChatGPT предлагал ему обратиться за профессиональной помощью или позвонить на горячую линию, но подросток легко обходил эти ограничения, написав, что интересуется методами суицида «для вымышленной истории».

Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

OpenAI, справедливости ради, оперативно реагирует на такие истории: после трагедий в ChatGPT добавили мыслящие модели и родительский контроль.

Роскомнадзор проиграл кассацию по делу об утечке данных РЖД

Роскомнадзор проиграл ещё один раунд в громком деле об утечке данных РЖД. Арбитражный суд Московского округа оставил в силе решение апелляции, которая ранее отменила штраф в отношении компании. Спор начался после того, как в телеграм-каналах появилась база данных сотрудников РЖД объёмом более 17 миллионов записей.

После инцидента Роскомнадзор добился привлечения компании к ответственности по части 1 статьи 13.11 КоАП РФ за нарушение требований к обработке персональных данных.

Однако в феврале 2026 года Девятый арбитражный апелляционный суд отменил этот штраф. Суд пришёл к выводу, что сама по себе утечка ещё не доказывает вину оператора персональных данных.

Апелляция указала, что инцидент стал результатом целенаправленной кибератаки, по факту которой было возбуждено уголовное дело. При этом Роскомнадзор не смог показать, какие именно меры защиты РЖД обязана была внедрить, но не внедрила.

Регулятор попытался оспорить такой подход в кассации, однако Арбитражный суд Московского округа поддержал позицию апелляционной инстанции и отказался пересматривать её выводы.

Фактически суд подтвердил важный для отрасли принцип: наличие утечки не означает автоматического признания компании виновной. Для привлечения к ответственности необходимо доказать, что оператор не выполнил конкретные требования по защите данных или допустил нарушения.

Для бизнеса это решение может стать одним из наиболее заметных судебных прецедентов последних лет в сфере персональных данных. Позиция о недопустимости так называемого объективного вменения при утечках теперь устояла сразу в трёх судебных инстанциях.

Впрочем, точку в истории ставить пока рано. У Роскомнадзора остаётся возможность обратиться в Верховный суд России.

RSS: Новости на портале Anti-Malware.ru