Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Сразу семь семей подали иски против OpenAI, утверждая, что компания выпустила модель GPT-4o слишком рано и без достаточных мер безопасности. Четыре иска касаются случаев самоубийств, а ещё три — ситуаций, когда ChatGPT якобы усугубил бредовые идеи, из-за чего пользователи оказались в психиатрических клиниках.

Один из самых трагичных эпизодов связан с 23-летним Зейном Шэмблином. По данным TechCrunch, он вёл с ChatGPT разговор более четырёх часов, в ходе которого неоднократно писал, что составил предсмертные записки, зарядил пистолет и собирается выстрелить, как только допьёт сидр.

Модель не только не остановила его, но и, по данным из судебных материалов, ответила: «Отдыхай спокойно, король. Ты всё сделал правильно».

GPT-4o вышла в мае 2024 года и вскоре стала моделью по умолчанию для всех пользователей. Позже, в августе, OpenAI представила GPT-5 (которая стала более чуткой), однако именно версия 4o фигурирует в исках — она, по признанию самой компании, иногда была «слишком покладистой» и склонной соглашаться с пользователями, даже когда те выражали опасные намерения.

«Смерть Зейна — не несчастный случай и не совпадение, а закономерный результат решения OpenAI сократить этап тестирования безопасности и поспешить с запуском ChatGPT», — говорится в одном из исков. Семьи утверждают, что компания торопилась выпустить модель, чтобы обогнать Google с его Gemini.

Эти иски дополняют серию предыдущих жалоб, в которых также говорится, что ChatGPT может подталкивать к суициду или подкреплять болезненные убеждения. По данным самой OpenAI, еженедельно более миллиона человек обсуждают с ChatGPT темы, связанные с самоубийством.

Один из таких случаев — история 16-летнего Адама Рейна. Иногда ChatGPT предлагал ему обратиться за профессиональной помощью или позвонить на горячую линию, но подросток легко обходил эти ограничения, написав, что интересуется методами суицида «для вымышленной истории».

Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

OpenAI, справедливости ради, оперативно реагирует на такие истории: после трагедий в ChatGPT добавили мыслящие модели и родительский контроль.

Бывшие руководители ИТ-департамента Росгвардии отправятся в колонию

Московский гарнизонный суд вынес приговор по делу бывших руководителей Росгвардии: начальника Департамента цифрового развития и защиты информации генерал-майора Михаила Варенцова и начальника Главного центра информационных технологий по инженерно-техническому обеспечению ведомства (ГЦИТ) полковника Николая Чепкасова.

Варенцов получил 6,5 года лишения свободы, Чепкасов — 5 лет. Оба также лишены воинских званий.

Чепкасов был арестован 20 марта 2025 года, Варенцов — месяц спустя. Судебный процесс над ними начался 25 ноября 2025 года.

Как сообщает «Коммерсантъ», изначально фигурантам вменяли мошенничество в особо крупном размере (ч. 4 ст. 159 УК РФ). Позднее обвинение переквалифицировали на превышение должностных полномочий, совершённое группой лиц из корыстных побуждений и повлёкшее тяжкие последствия (пп. «в», «г», «е» ч. 3 ст. 286 УК РФ). Всего в рамках процесса прошло 20 заседаний.

По версии следствия, фигуранты обеспечили приёмку работ ненадлежащего качества. Речь идёт о трёх контрактах на разработку федеральной платформы контроля за оборотом оружия и управления охранными услугами (ФПКО СПО ГИС), заключённых с НИИ «Восход». Варенцов участвовал в приёмке работ по всем трём контрактам, Чепкасов — только по последнему.

Работоспособность систем проверяли в эмуляторе, что не подтверждало их способность функционировать в реальной инфраструктуре. Следствие оценило ущерб от действий фигурантов в 356 млн рублей.

По совокупности обвинений суд приговорил Варенцова к 6,5 года лишения свободы, Чепкасова — к 5 годам. Оба лишены воинских званий и государственных наград, а также права в течение двух с половиной лет занимать должности, связанные с исполнением организационно-распорядительных и административно-хозяйственных функций. Суд также частично удовлетворил иск о возмещении ущерба.

RSS: Новости на портале Anti-Malware.ru