Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Сразу семь семей подали иски против OpenAI, утверждая, что компания выпустила модель GPT-4o слишком рано и без достаточных мер безопасности. Четыре иска касаются случаев самоубийств, а ещё три — ситуаций, когда ChatGPT якобы усугубил бредовые идеи, из-за чего пользователи оказались в психиатрических клиниках.

Один из самых трагичных эпизодов связан с 23-летним Зейном Шэмблином. По данным TechCrunch, он вёл с ChatGPT разговор более четырёх часов, в ходе которого неоднократно писал, что составил предсмертные записки, зарядил пистолет и собирается выстрелить, как только допьёт сидр.

Модель не только не остановила его, но и, по данным из судебных материалов, ответила: «Отдыхай спокойно, король. Ты всё сделал правильно».

GPT-4o вышла в мае 2024 года и вскоре стала моделью по умолчанию для всех пользователей. Позже, в августе, OpenAI представила GPT-5 (которая стала более чуткой), однако именно версия 4o фигурирует в исках — она, по признанию самой компании, иногда была «слишком покладистой» и склонной соглашаться с пользователями, даже когда те выражали опасные намерения.

«Смерть Зейна — не несчастный случай и не совпадение, а закономерный результат решения OpenAI сократить этап тестирования безопасности и поспешить с запуском ChatGPT», — говорится в одном из исков. Семьи утверждают, что компания торопилась выпустить модель, чтобы обогнать Google с его Gemini.

Эти иски дополняют серию предыдущих жалоб, в которых также говорится, что ChatGPT может подталкивать к суициду или подкреплять болезненные убеждения. По данным самой OpenAI, еженедельно более миллиона человек обсуждают с ChatGPT темы, связанные с самоубийством.

Один из таких случаев — история 16-летнего Адама Рейна. Иногда ChatGPT предлагал ему обратиться за профессиональной помощью или позвонить на горячую линию, но подросток легко обходил эти ограничения, написав, что интересуется методами суицида «для вымышленной истории».

Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

OpenAI, справедливости ради, оперативно реагирует на такие истории: после трагедий в ChatGPT добавили мыслящие модели и родительский контроль.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В Security Vision SGRC появился блок по управлению ИБ (Governance)

Компания Security Vision представила обновлённую версию своего решения Security Vision SGRC, в котором появился новый раздел — «Управление информационной безопасностью» (Governance). Он дополнил уже существующие направления платформы: управление рисками, соответствием требованиям и непрерывностью бизнеса.

В совокупности эти блоки позволяют выстроить целостную систему управления ИБ в организации.

Новый раздел включает инструменты для формирования перечня ключевых ролей, определения организационного контекста, разработки стратегии кибербезопасности и политики ИБ, а также для контроля выполнения задач и оценки текущего уровня защищённости.

На первом этапе пользователи определяют миссию и видение в области информационной безопасности, а также назначают ответственных сотрудников на ключевые роли. Продукт предлагает готовые шаблоны, которые можно адаптировать под специфику конкретной компании.

Далее формируется организационный контекст — то есть определяется область действия системы ИБ и круг заинтересованных сторон. Учитываются как внутренние участники (подразделения, руководители), так и внешние — регуляторы, партнёры, акционеры. Их требования и приоритеты используются при дальнейшей оценке рисков.

Стратегия кибербезопасности

На этом уровне выбирается фреймворк, в рамках которого компания будет строить систему ИБ. В SGRC доступны два стандарта — NIST CSF 2.0 и ISO 27001, но можно также создать собственный или комбинированный подход.

На основе выбранного фреймворка проводится анализ текущего и целевого состояния кибербезопасности, после чего формируется стратегический план. Он может быть разбит на этапы с конкретными задачами и назначением исполнителей, а прогресс отображается на сводном дашборде.

Политики и процессы

После выбора фреймворка продукт автоматически формирует перечень процессов информационной безопасности с их описанием и связанными политиками. Для большинства документов, включая основную политику ИБ, предусмотрены готовые шаблоны, которые можно быстро адаптировать под организацию.

Поддержание актуальности

Система предусматривает механизм регулярного пересмотра и обновления элементов ИБ — от процессов до политик. Можно настраивать интервалы напоминаний и ответственных по принципу RASCI-матрицы, что помогает поддерживать управление ИБ в актуальном состоянии.

Отчётность и визуализация

Для анализа предусмотрены дашборды и отчёты по ключевым направлениям. Пользователь может применять собственные шаблоны отчётности, если в компании уже существуют утверждённые формы.

Таким образом, новый раздел SGRC объединяет стратегическое и операционное управление ИБ в единой системе, что позволяет организациям структурно подходить к развитию кибербезопасности.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru