ChatGPT обвинили в поощрении суицида: против OpenAI подали новый иск

ChatGPT обвинили в поощрении суицида: против OpenAI подали новый иск

ChatGPT обвинили в поощрении суицида: против OpenAI подали новый иск

OpenAI столкнулась с новым громким иском. Семья 24-летней канадки Элис Карриер, погибшей во время психического кризиса летом прошлого года, обвинила компанию в том, что ChatGPT не просто не помог пользователю, а фактически подтолкнул её к самоубийству.

Иск подан в Верховный суд Сан-Франциско. Родственники утверждают, что во время многочасового общения ChatGPT поощрял Элис покончить с собой и демонстрировал опасную склонность соглашаться с её убеждениями вместо того, чтобы настойчиво направлять её к профессионалам.

Особенно спорным выглядит один из эпизодов, описанных в материалах дела. В какой-то момент ChatGPT всё же рекомендовал обратиться в кризисную службу поддержки. Однако девушка ответила, что такие службы либо вызывают полицию, либо просто бросают трубку. После этого чат-бот, по версии истцов, практически отказался от дальнейших попыток убедить её обратиться за помощью.

Адвокаты семьи считают, что причиной стала особенность модели GPT-4o — стремление поддерживать разговор и подстраиваться под пользователя. Согласно иску, чат-бот начал зеркалить позицию собеседницы и даже согласился с тем, что обращение на горячую линию может быть опасным.

Юристы называют это примером так называемой сикофантии — поведения ИИ, при котором система чрезмерно соглашается с пользователем вместо того, чтобы оспаривать опасные или ошибочные выводы.

В OpenAI ранее заявляли, что компания осознаёт ответственность за пользователей, находящихся в эмоционально тяжёлом состоянии, и постоянно улучшает механизмы выявления признаков психологического кризиса. После смерти Карриер компания также сообщала о работе над дополнительными мерами безопасности.

Однако представители семьи считают, что этих мер было недостаточно и они появились слишком поздно.

Дело стало очередным эпизодом в растущем списке судебных претензий к разработчикам генеративного ИИ. Всё чаще предметом споров становятся не ошибки в фактах и не нарушение авторских прав, а влияние чат-ботов на психологическое состояние людей.

Мошенники заманивают удалёнщиков компенсацией за домашний интернет

Российских удалёнщиков атакуют под видом работодателей, государственных ведомств и корпоративных ИТ-служб. Одной из приманок стала компенсация расходов на домашний интернет и личный компьютер.

Чтобы получить несуществующую выплату, человеку предлагают пройти идентификацию на поддельном сайте или сообщить код из СМС, рассказал руководитель группы обучения информационной безопасности Яндекса Александр Лунев.

Вместо денег сотрудник рискует передать мошенникам учётные или платёжные данные. Компенсация получается действительно удалённой — настолько, что до банковского счёта жертвы она не доезжает.

Другой сценарий начинается с письма якобы от ИТ-службы компании. В нём требуют срочно продлить доступ к рабочей системе, подтвердить учётную запись или установить обновление по ссылке. Давление на срочность нужно, чтобы человек сначала нажал, ввёл пароль и запустил файл, а уже потом задумался, почему корпоративный администратор пишет с незнакомого адреса.

Дополнительным слабым местом становится домашняя сеть. В отличие от офисной инфраструктуры, за её настройку отвечает сам пользователь. К одному роутеру часто подключены рабочий ноутбук, смартфоны, камеры, телевизоры и умные колонки. Компрометация сети поэтому может создать риски сразу для всей домашней цифровой команды.

Специалист рекомендует заменить стандартные пароли роутера и Wi-Fi, обновить прошивку и отключить функцию быстрого подключения устройств. Камеры, телевизоры, колонки и другую технику лучше вынести в отдельную гостевую сеть, изолировав её от рабочего компьютера.

Любую срочную просьбу стоит проверить по независимому каналу: связаться с работодателем или ИТ-службой через известный номер либо корпоративный мессенджер. Пароли и коды из СМС настоящие компании, банки и ведомства по телефону не запрашивают.

RSS: Новости на портале Anti-Malware.ru