ChatGPT обвинили в поощрении суицида: против OpenAI подали новый иск

ChatGPT обвинили в поощрении суицида: против OpenAI подали новый иск

ChatGPT обвинили в поощрении суицида: против OpenAI подали новый иск

OpenAI столкнулась с новым громким иском. Семья 24-летней канадки Элис Карриер, погибшей во время психического кризиса летом прошлого года, обвинила компанию в том, что ChatGPT не просто не помог пользователю, а фактически подтолкнул её к самоубийству.

Иск подан в Верховный суд Сан-Франциско. Родственники утверждают, что во время многочасового общения ChatGPT поощрял Элис покончить с собой и демонстрировал опасную склонность соглашаться с её убеждениями вместо того, чтобы настойчиво направлять её к профессионалам.

Особенно спорным выглядит один из эпизодов, описанных в материалах дела. В какой-то момент ChatGPT всё же рекомендовал обратиться в кризисную службу поддержки. Однако девушка ответила, что такие службы либо вызывают полицию, либо просто бросают трубку. После этого чат-бот, по версии истцов, практически отказался от дальнейших попыток убедить её обратиться за помощью.

Адвокаты семьи считают, что причиной стала особенность модели GPT-4o — стремление поддерживать разговор и подстраиваться под пользователя. Согласно иску, чат-бот начал зеркалить позицию собеседницы и даже согласился с тем, что обращение на горячую линию может быть опасным.

Юристы называют это примером так называемой сикофантии — поведения ИИ, при котором система чрезмерно соглашается с пользователем вместо того, чтобы оспаривать опасные или ошибочные выводы.

В OpenAI ранее заявляли, что компания осознаёт ответственность за пользователей, находящихся в эмоционально тяжёлом состоянии, и постоянно улучшает механизмы выявления признаков психологического кризиса. После смерти Карриер компания также сообщала о работе над дополнительными мерами безопасности.

Однако представители семьи считают, что этих мер было недостаточно и они появились слишком поздно.

Дело стало очередным эпизодом в растущем списке судебных претензий к разработчикам генеративного ИИ. Всё чаще предметом споров становятся не ошибки в фактах и не нарушение авторских прав, а влияние чат-ботов на психологическое состояние людей.

DDX начал проверку после сообщений об утечке данных посетителей

Сеть фитнес-клубов DDX проводит внутреннюю проверку после сообщений о появлении в интернете персональных данных клиентов. Компания также усилила меры информационной безопасности и запустила внеплановые мероприятия по защите своих систем и баз данных.

Ранее телеграм-канал Baza и другие СМИ сообщили, что в Сеть якобы попали персональные сведения и фотографии посетителей DDX.

В опубликованной базе также могут находиться даты и время посещения залов, количество визитов, информация о покупках и адреса выбранных клубов.

По данным канала «Осторожно, новости», фотографии клиентов делали при заключении договоров или оформлении гостевых посещений. Таким образом, потенциальная утечка может рассказать о человеке не только то, как его зовут и как он выглядит, но и где, когда и насколько регулярно он тренируется.

В DDX пока не подтвердили сам факт компрометации данных, её масштаб и подлинность опубликованных материалов. Компания заявила лишь о проверке, которая проводится в соответствии с требованиями законодательства. Информации о причинах возможного инцидента и числе затронутых клиентов также нет.

Если утечка подтвердится, собранные сведения могут использоваться для адресного фишинга и других мошеннических схем. Зная клуб, историю посещений и покупки клиента, злоумышленникам проще представиться сотрудниками сети и убедительно сообщить о проблеме с абонементом или возврате платежа.

Клиентам DDX стоит настороженно относиться к звонкам и сообщениям от имени клуба, не переходить по сомнительным ссылкам и не сообщать коды из СМС.

RSS: Новости на портале Anti-Malware.ru