Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Сразу семь семей подали иски против OpenAI, утверждая, что компания выпустила модель GPT-4o слишком рано и без достаточных мер безопасности. Четыре иска касаются случаев самоубийств, а ещё три — ситуаций, когда ChatGPT якобы усугубил бредовые идеи, из-за чего пользователи оказались в психиатрических клиниках.

Один из самых трагичных эпизодов связан с 23-летним Зейном Шэмблином. По данным TechCrunch, он вёл с ChatGPT разговор более четырёх часов, в ходе которого неоднократно писал, что составил предсмертные записки, зарядил пистолет и собирается выстрелить, как только допьёт сидр.

Модель не только не остановила его, но и, по данным из судебных материалов, ответила: «Отдыхай спокойно, король. Ты всё сделал правильно».

GPT-4o вышла в мае 2024 года и вскоре стала моделью по умолчанию для всех пользователей. Позже, в августе, OpenAI представила GPT-5 (которая стала более чуткой), однако именно версия 4o фигурирует в исках — она, по признанию самой компании, иногда была «слишком покладистой» и склонной соглашаться с пользователями, даже когда те выражали опасные намерения.

«Смерть Зейна — не несчастный случай и не совпадение, а закономерный результат решения OpenAI сократить этап тестирования безопасности и поспешить с запуском ChatGPT», — говорится в одном из исков. Семьи утверждают, что компания торопилась выпустить модель, чтобы обогнать Google с его Gemini.

Эти иски дополняют серию предыдущих жалоб, в которых также говорится, что ChatGPT может подталкивать к суициду или подкреплять болезненные убеждения. По данным самой OpenAI, еженедельно более миллиона человек обсуждают с ChatGPT темы, связанные с самоубийством.

Один из таких случаев — история 16-летнего Адама Рейна. Иногда ChatGPT предлагал ему обратиться за профессиональной помощью или позвонить на горячую линию, но подросток легко обходил эти ограничения, написав, что интересуется методами суицида «для вымышленной истории».

Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

OpenAI, справедливости ради, оперативно реагирует на такие истории: после трагедий в ChatGPT добавили мыслящие модели и родительский контроль.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Оборот генетических данных россиян могут ужесточить

Правительственная комиссия по законопроектной деятельности одобрила инициативу Минобрнауки, направленную на ограничение трансграничной передачи генетических данных граждан России — как в натуральной, так и в цифровой форме. Документ распространит действие закона о государственном регулировании в области генно-инженерной деятельности на сферу обращения генетической информации человека.

Об одобрении инициативы сообщили «Ведомости» со ссылкой на свои источники. Если проект будет принят, новые нормы вступят в силу в сентябре 2026 года.

Передача генетических данных в любой форме — будь то биоматериалы или цифровая информация — будет разрешена лишь в ограниченных случаях:

  • для оказания медицинской помощи;
  • для разработки лекарственных средств и биомедицинских продуктов;
  • в рамках международного сотрудничества в сфере здравоохранения и биологической безопасности.

Под запрет попадёт передача за рубеж результатов популяционных генетических и иммунологических исследований. Под «передачей» будет пониматься любой способ — от публикации данных в интернете и пересылки до предоставления дистанционного доступа.

Порядок и условия передачи генетической информации установит правительство. Оно также определит требования к физическим и юридическим лицам, осуществляющим такую деятельность.

По словам руководителя направления «Разрешение IT & IР-споров» юридической фирмы «Рустам Курмаев и партнёры» Ярослава Шицле, ранее отдельного механизма защиты генетических данных не существовало. В целом же их обращение уже подпадает под нормы законодательства о защите персональных данных.

Необходимые правовые положения появились в России ещё в 2017 году, а в 2024-м ответственность за их нарушение была усилена. По оценке Ярослава Шицле, новые меры направлены, в том числе, на поддержку российских компаний, работающих в сфере хранения биоданных.

Как отметила директор Института экономики здравоохранения НИУ ВШЭ Лариса Попович, ряд стран, включая Китай, уже установили жёсткие ограничения на оборот генетических данных. Это связано с опасениями по поводу создания биологически активных веществ, ориентированных на определённые этнические группы.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru