Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Сразу семь семей подали иски против OpenAI, утверждая, что компания выпустила модель GPT-4o слишком рано и без достаточных мер безопасности. Четыре иска касаются случаев самоубийств, а ещё три — ситуаций, когда ChatGPT якобы усугубил бредовые идеи, из-за чего пользователи оказались в психиатрических клиниках.

Один из самых трагичных эпизодов связан с 23-летним Зейном Шэмблином. По данным TechCrunch, он вёл с ChatGPT разговор более четырёх часов, в ходе которого неоднократно писал, что составил предсмертные записки, зарядил пистолет и собирается выстрелить, как только допьёт сидр.

Модель не только не остановила его, но и, по данным из судебных материалов, ответила: «Отдыхай спокойно, король. Ты всё сделал правильно».

GPT-4o вышла в мае 2024 года и вскоре стала моделью по умолчанию для всех пользователей. Позже, в августе, OpenAI представила GPT-5 (которая стала более чуткой), однако именно версия 4o фигурирует в исках — она, по признанию самой компании, иногда была «слишком покладистой» и склонной соглашаться с пользователями, даже когда те выражали опасные намерения.

«Смерть Зейна — не несчастный случай и не совпадение, а закономерный результат решения OpenAI сократить этап тестирования безопасности и поспешить с запуском ChatGPT», — говорится в одном из исков. Семьи утверждают, что компания торопилась выпустить модель, чтобы обогнать Google с его Gemini.

Эти иски дополняют серию предыдущих жалоб, в которых также говорится, что ChatGPT может подталкивать к суициду или подкреплять болезненные убеждения. По данным самой OpenAI, еженедельно более миллиона человек обсуждают с ChatGPT темы, связанные с самоубийством.

Один из таких случаев — история 16-летнего Адама Рейна. Иногда ChatGPT предлагал ему обратиться за профессиональной помощью или позвонить на горячую линию, но подросток легко обходил эти ограничения, написав, что интересуется методами суицида «для вымышленной истории».

Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

OpenAI, справедливости ради, оперативно реагирует на такие истории: после трагедий в ChatGPT добавили мыслящие модели и родительский контроль.

Наталья Касперская: разрешённый VPN в России доступен лишь избранным

Разрешения на использование VPN в России получают лишь единичные компании, а сам процесс остаётся непрозрачным. Об этом заявила сооснователь «Лаборатории Касперского» и президент InfoWatch Наталья Касперская в разговоре с НСН.

По её словам, несмотря на заявления Роскомнадзора о том, что корпоративные VPN внутри страны не ограничиваются, на практике ситуация выглядит совсем иначе.

Формально доступ к иностранным ресурсам уже предоставлен более чем 57 тысячам адресов и подсетей — это около 1730 организаций. Но если сравнивать с общим числом компаний в России, картина меняется.

Касперская отмечает, что речь идёт примерно о пяти сотых процента от общего числа юрлиц. Проще говоря, доступ к разрешённому VPN получают далеко не все.

При этом остаётся не до конца понятным, как именно формируются так называемые белые списки. По словам Касперской, сами компании не видят документов, на основании которых принимаются решения. В итоге возникает странная ситуация: с одной стороны, вводятся ограничения, с другой — официально говорится, что блокировок нет.

«Мы гадаем, что будет, на кофейной гуще», — описала она происходящее.

Отдельная проблема — стабильность. Касперская утверждает, что даже разрешённые VPN могут работать с перебоями: «то встанет, то ляжет».

Кроме того, ограничения уже начали сказываться на работе интернета в целом. Главная причина — техническая. VPN-трафик сложно отличить от обычного HTTPS, по которому сегодня работает большая часть Сети. И то, и другое — это зашифрованные соединения.

Из-за этого системы фильтрации регулярно дают ложные срабатывания. Чем активнее блокировки, тем выше шанс, что «заодно» начнут страдать обычные сервисы.

По мнению Касперской, полностью заблокировать VPN и прокси можно только одним способом — вместе со всем интернетом.

Отдельно она упомянула и пользователей за границей. Там ситуация ещё сложнее: международный трафик может выглядеть так же, как VPN, и отличить одно от другого технически практически невозможно. В результате под ограничения могут попадать и те, кто просто находится за пределами России.

Ранее в этом месяце Наталья Касперская извинилась перед Роскомнадзором за свой пост о причинах масштабного сбоя, который 3 апреля затронул банковские сервисы и СБП.

RSS: Новости на портале Anti-Malware.ru