Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Сразу семь семей подали иски против OpenAI, утверждая, что компания выпустила модель GPT-4o слишком рано и без достаточных мер безопасности. Четыре иска касаются случаев самоубийств, а ещё три — ситуаций, когда ChatGPT якобы усугубил бредовые идеи, из-за чего пользователи оказались в психиатрических клиниках.

Один из самых трагичных эпизодов связан с 23-летним Зейном Шэмблином. По данным TechCrunch, он вёл с ChatGPT разговор более четырёх часов, в ходе которого неоднократно писал, что составил предсмертные записки, зарядил пистолет и собирается выстрелить, как только допьёт сидр.

Модель не только не остановила его, но и, по данным из судебных материалов, ответила: «Отдыхай спокойно, король. Ты всё сделал правильно».

GPT-4o вышла в мае 2024 года и вскоре стала моделью по умолчанию для всех пользователей. Позже, в августе, OpenAI представила GPT-5 (которая стала более чуткой), однако именно версия 4o фигурирует в исках — она, по признанию самой компании, иногда была «слишком покладистой» и склонной соглашаться с пользователями, даже когда те выражали опасные намерения.

«Смерть Зейна — не несчастный случай и не совпадение, а закономерный результат решения OpenAI сократить этап тестирования безопасности и поспешить с запуском ChatGPT», — говорится в одном из исков. Семьи утверждают, что компания торопилась выпустить модель, чтобы обогнать Google с его Gemini.

Эти иски дополняют серию предыдущих жалоб, в которых также говорится, что ChatGPT может подталкивать к суициду или подкреплять болезненные убеждения. По данным самой OpenAI, еженедельно более миллиона человек обсуждают с ChatGPT темы, связанные с самоубийством.

Один из таких случаев — история 16-летнего Адама Рейна. Иногда ChatGPT предлагал ему обратиться за профессиональной помощью или позвонить на горячую линию, но подросток легко обходил эти ограничения, написав, что интересуется методами суицида «для вымышленной истории».

Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

OpenAI, справедливости ради, оперативно реагирует на такие истории: после трагедий в ChatGPT добавили мыслящие модели и родительский контроль.

На Госуслугах появится красная кнопка информирования о киберпреступлениях

На портале «Госуслуги» в ближайшее время может появиться специальная кнопка для сообщений о мошенничестве и других преступных посягательствах. Предполагается, что эта мера позволит быстрее оповещать заинтересованные стороны, включая правоохранительные органы, банки и операторов связи, а также ускорит реагирование на инциденты.

О появлении такой «тревожной кнопки» заявил первый вице-премьер, заместитель председателя правительства Дмитрий Григоренко на встрече с президентом Владимиром Путиным. Беседа была посвящена ходу реализации государственных программ по цифровизации госуслуг.

«Мы хотим на портале „Госуслуг“ сделать так называемый сервис с „красной кнопкой“ – когда гражданин понимает, что его обманули. Проблема в чём? Он прекращает разговор и только потом осознаёт, что стал жертвой мошенников. Куда ему бежать? Идти писать заявление или куда-то обращаться? Это как раз то время, которое играет на руку мошенникам», – заявил Дмитрий Григоренко в ходе обсуждения с президентом.

Генеральный директор компании Phishman Антон Горелкин в комментарии для радиостанции Business FM назвал эту меру полезной, поскольку она позволит быстрее блокировать действия злоумышленников:

«Когда вы понимаете, что это мошенник, его ещё нет в базе, он вам звонил, а вы его остановили или, наоборот, он вас обманул, вы заходите на „Госуслуги“ и сообщаете об этом, тем самым подтверждая, что этот номер мошеннический.

После этого информация поступает в государственную систему, которая объединяет данные операторов и банков. Она дополняется этим сообщением. В результате такие звонки начинают блокироваться у всех. Банки, соответственно, тоже получают сведения о том, что номер неблагонадёжный.

Это поможет противодействовать мошенническим кибератакам. Раньше была проблема в том, что для блокировки номеров нужно было получать судебное разрешение, затем процедуру упростили — заработала автоматическая система, в которую включены операторы, банки и правоохранительные органы. Теперь к ней добавят ещё и население».

Уже с 1 октября 2025 года такой инструмент появился в мобильных приложениях банков, а также в банкоматах и терминалах. При его использовании автоматически формируется справка о сомнительной операции, которую затем можно приложить к заявлению о возбуждении уголовного дела.

RSS: Новости на портале Anti-Malware.ru