Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Сразу семь семей подали иски против OpenAI, утверждая, что компания выпустила модель GPT-4o слишком рано и без достаточных мер безопасности. Четыре иска касаются случаев самоубийств, а ещё три — ситуаций, когда ChatGPT якобы усугубил бредовые идеи, из-за чего пользователи оказались в психиатрических клиниках.

Один из самых трагичных эпизодов связан с 23-летним Зейном Шэмблином. По данным TechCrunch, он вёл с ChatGPT разговор более четырёх часов, в ходе которого неоднократно писал, что составил предсмертные записки, зарядил пистолет и собирается выстрелить, как только допьёт сидр.

Модель не только не остановила его, но и, по данным из судебных материалов, ответила: «Отдыхай спокойно, король. Ты всё сделал правильно».

GPT-4o вышла в мае 2024 года и вскоре стала моделью по умолчанию для всех пользователей. Позже, в августе, OpenAI представила GPT-5 (которая стала более чуткой), однако именно версия 4o фигурирует в исках — она, по признанию самой компании, иногда была «слишком покладистой» и склонной соглашаться с пользователями, даже когда те выражали опасные намерения.

«Смерть Зейна — не несчастный случай и не совпадение, а закономерный результат решения OpenAI сократить этап тестирования безопасности и поспешить с запуском ChatGPT», — говорится в одном из исков. Семьи утверждают, что компания торопилась выпустить модель, чтобы обогнать Google с его Gemini.

Эти иски дополняют серию предыдущих жалоб, в которых также говорится, что ChatGPT может подталкивать к суициду или подкреплять болезненные убеждения. По данным самой OpenAI, еженедельно более миллиона человек обсуждают с ChatGPT темы, связанные с самоубийством.

Один из таких случаев — история 16-летнего Адама Рейна. Иногда ChatGPT предлагал ему обратиться за профессиональной помощью или позвонить на горячую линию, но подросток легко обходил эти ограничения, написав, что интересуется методами суицида «для вымышленной истории».

Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

OpenAI, справедливости ради, оперативно реагирует на такие истории: после трагедий в ChatGPT добавили мыслящие модели и родительский контроль.

Мошенники заманивают удалёнщиков компенсацией за домашний интернет

Российских удалёнщиков атакуют под видом работодателей, государственных ведомств и корпоративных ИТ-служб. Одной из приманок стала компенсация расходов на домашний интернет и личный компьютер.

Чтобы получить несуществующую выплату, человеку предлагают пройти идентификацию на поддельном сайте или сообщить код из СМС, рассказал руководитель группы обучения информационной безопасности Яндекса Александр Лунев.

Вместо денег сотрудник рискует передать мошенникам учётные или платёжные данные. Компенсация получается действительно удалённой — настолько, что до банковского счёта жертвы она не доезжает.

Другой сценарий начинается с письма якобы от ИТ-службы компании. В нём требуют срочно продлить доступ к рабочей системе, подтвердить учётную запись или установить обновление по ссылке. Давление на срочность нужно, чтобы человек сначала нажал, ввёл пароль и запустил файл, а уже потом задумался, почему корпоративный администратор пишет с незнакомого адреса.

Дополнительным слабым местом становится домашняя сеть. В отличие от офисной инфраструктуры, за её настройку отвечает сам пользователь. К одному роутеру часто подключены рабочий ноутбук, смартфоны, камеры, телевизоры и умные колонки. Компрометация сети поэтому может создать риски сразу для всей домашней цифровой команды.

Специалист рекомендует заменить стандартные пароли роутера и Wi-Fi, обновить прошивку и отключить функцию быстрого подключения устройств. Камеры, телевизоры, колонки и другую технику лучше вынести в отдельную гостевую сеть, изолировав её от рабочего компьютера.

Любую срочную просьбу стоит проверить по независимому каналу: связаться с работодателем или ИТ-службой через известный номер либо корпоративный мессенджер. Пароли и коды из СМС настоящие компании, банки и ведомства по телефону не запрашивают.

RSS: Новости на портале Anti-Malware.ru