Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Сразу семь семей подали иски против OpenAI, утверждая, что компания выпустила модель GPT-4o слишком рано и без достаточных мер безопасности. Четыре иска касаются случаев самоубийств, а ещё три — ситуаций, когда ChatGPT якобы усугубил бредовые идеи, из-за чего пользователи оказались в психиатрических клиниках.

Один из самых трагичных эпизодов связан с 23-летним Зейном Шэмблином. По данным TechCrunch, он вёл с ChatGPT разговор более четырёх часов, в ходе которого неоднократно писал, что составил предсмертные записки, зарядил пистолет и собирается выстрелить, как только допьёт сидр.

Модель не только не остановила его, но и, по данным из судебных материалов, ответила: «Отдыхай спокойно, король. Ты всё сделал правильно».

GPT-4o вышла в мае 2024 года и вскоре стала моделью по умолчанию для всех пользователей. Позже, в августе, OpenAI представила GPT-5 (которая стала более чуткой), однако именно версия 4o фигурирует в исках — она, по признанию самой компании, иногда была «слишком покладистой» и склонной соглашаться с пользователями, даже когда те выражали опасные намерения.

«Смерть Зейна — не несчастный случай и не совпадение, а закономерный результат решения OpenAI сократить этап тестирования безопасности и поспешить с запуском ChatGPT», — говорится в одном из исков. Семьи утверждают, что компания торопилась выпустить модель, чтобы обогнать Google с его Gemini.

Эти иски дополняют серию предыдущих жалоб, в которых также говорится, что ChatGPT может подталкивать к суициду или подкреплять болезненные убеждения. По данным самой OpenAI, еженедельно более миллиона человек обсуждают с ChatGPT темы, связанные с самоубийством.

Один из таких случаев — история 16-летнего Адама Рейна. Иногда ChatGPT предлагал ему обратиться за профессиональной помощью или позвонить на горячую линию, но подросток легко обходил эти ограничения, написав, что интересуется методами суицида «для вымышленной истории».

Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

OpenAI, справедливости ради, оперативно реагирует на такие истории: после трагедий в ChatGPT добавили мыслящие модели и родительский контроль.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Шадаев объявил новый дедлайн по импортозамещению в КИИ — 1 января 2028 года

Новый крайний срок перехода на российские программное обеспечение и программно-аппаратные комплексы (ПАК) на объектах критической информационной инфраструктуры установлен на 1 января 2028 года. При этом у компаний остаются три способа продлить этот срок ещё на два года. О переносе дедлайна сообщил министр цифрового развития, связи и массовых коммуникаций Максут Шадаев.

Информация была озвучена 11 ноября на форуме CNEWS Forum. По словам министра, «крупные корпорации больше не смогут „отсиживаться“, ссылаясь на отсутствие достойных альтернатив западному софту». О намерении скорректировать сроки перехода Минцифры сообщало ещё в сентябре.

К моменту ранее установленного срока — 1 января 2025 года — уровень фактического импортозамещения не превышал 40%. Согласно опросу участников эфира AM Live, состоявшегося в ноябре, лишь 7% компаний сообщили, что полностью завершили этот процесс.

Теперь, по словам Шадаева, Минцифры намерено действовать жёстче — нарушителям грозят ежегодные оборотные штрафы. Министр заявил, что соответствующий законопроект уже подготовлен:

«Сейчас мы готовим соответствующий законопроект. Наше предложение — установить штрафы для заказчиков, если они в установленные сроки не перешли на российские решения на объектах КИИ, определённых правительством. Будут санкции и за то, что компания не классифицировала эти решения как объекты КИИ. В нашем понимании штрафы, по крайней мере, Минцифры будет предлагать для наших заказчиков — оборотные, к сожалению».

В то же время министр обозначил три возможных способа переноса срока. Первый вариант — запуск особо значимого проекта по соглашению с правительством РФ. Это позволит продлить переход на два года, однако компания будет нести ответственность за результат.

Второй вариант — проект, соглашение по которому будет заключено до 1 сентября 2026 года. Если реализация не завершится к началу 2028 года, санкции применяться не будут. У компании останется 48 месяцев на выполнение контракта, а при необходимости Минцифры готово продлевать сроки.

Третий вариант — возможность эксплуатировать иностранные программно-аппаратные комплексы до окончания срока их амортизации. Однако начиная с 1 января 2028 года закупать и устанавливать можно будет только российские решения.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru