Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Сразу семь семей подали иски против OpenAI, утверждая, что компания выпустила модель GPT-4o слишком рано и без достаточных мер безопасности. Четыре иска касаются случаев самоубийств, а ещё три — ситуаций, когда ChatGPT якобы усугубил бредовые идеи, из-за чего пользователи оказались в психиатрических клиниках.

Один из самых трагичных эпизодов связан с 23-летним Зейном Шэмблином. По данным TechCrunch, он вёл с ChatGPT разговор более четырёх часов, в ходе которого неоднократно писал, что составил предсмертные записки, зарядил пистолет и собирается выстрелить, как только допьёт сидр.

Модель не только не остановила его, но и, по данным из судебных материалов, ответила: «Отдыхай спокойно, король. Ты всё сделал правильно».

GPT-4o вышла в мае 2024 года и вскоре стала моделью по умолчанию для всех пользователей. Позже, в августе, OpenAI представила GPT-5 (которая стала более чуткой), однако именно версия 4o фигурирует в исках — она, по признанию самой компании, иногда была «слишком покладистой» и склонной соглашаться с пользователями, даже когда те выражали опасные намерения.

«Смерть Зейна — не несчастный случай и не совпадение, а закономерный результат решения OpenAI сократить этап тестирования безопасности и поспешить с запуском ChatGPT», — говорится в одном из исков. Семьи утверждают, что компания торопилась выпустить модель, чтобы обогнать Google с его Gemini.

Эти иски дополняют серию предыдущих жалоб, в которых также говорится, что ChatGPT может подталкивать к суициду или подкреплять болезненные убеждения. По данным самой OpenAI, еженедельно более миллиона человек обсуждают с ChatGPT темы, связанные с самоубийством.

Один из таких случаев — история 16-летнего Адама Рейна. Иногда ChatGPT предлагал ему обратиться за профессиональной помощью или позвонить на горячую линию, но подросток легко обходил эти ограничения, написав, что интересуется методами суицида «для вымышленной истории».

Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

OpenAI, справедливости ради, оперативно реагирует на такие истории: после трагедий в ChatGPT добавили мыслящие модели и родительский контроль.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Делягин: масштабное отключение рунета от интернета почти невозможно

С 1 марта 2026 года в России вступят в силу новые правила, позволяющие Роскомнадзору, ФСБ и Минцифры России временно отключать российский сегмент интернета от мировой Сети. Речь идёт о случаях, когда возникнут «угрозы устойчивости, безопасности и целостности» интернета.

Соответствующее постановление подписал премьер-министр Михаил Мишустин 6 ноября.

Иными словами, рунет смогут изолировать в ситуации, если через глобальную сеть начнётся вмешательство во внутренние дела России или произойдёт крупная кибератака.

Однако эксперты сомневаются, что подобные сценарии возможны. Зампред комиссии Госдумы по расследованию вмешательства иностранных государств Михаил Делягин в разговоре с «Газетой.Ru» заявил, что такие угрозы «почти невероятны».

«РКН может отключить российский интернет от мирового только если вмешательство через него во внутренние дела России приобретёт характер реальной угрозы. Но все подобные сценарии сегодня выглядят крайне маловероятными. Это должно быть масштабное кибернападение, способное пробить защиту ключевых узлов, — что сейчас, на мой взгляд, невозможно», — сказал Делягин.

Он добавил, что массовое применение квантовых компьютеров теоретически может изменить ситуацию, но до этого ещё далеко. Также парламентарий выразил уверенность, что системы электронного голосования защищены от внешнего взлома, несмотря на сомнения, которые периодически звучат в их адрес.

Ранее депутат Андрей Свинцов в беседе с изданием «Подъём» подтвердил, что в случае крупных хакерских атак или угроз системам дистанционного голосования возможна кратковременная изоляция рунета, но полного отключения от интернета не планируется.

Ранее в Госдуме уже обсуждали, что временное отключение российского сегмента Сети от глобального может использоваться в случае вмешательства в выборы 2026 года.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru