OpenAI: суицидник нарушил правила использования ChatGPT, вина не наша

OpenAI: суицидник нарушил правила использования ChatGPT, вина не наша

OpenAI: суицидник нарушил правила использования ChatGPT, вина не наша

OpenAI направила в суд свой первый развернутый ответ по одному из пяти исков о суициде пользователей, заявив, что 16-летний Адам Рейн нарушил правила использования ChatGPT и что его трагедия не была вызвана работой чат-бота. Компания утверждает: именно пользователь просил модель обсуждать темы, которые прямо запрещены условиями сервиса.

Родители подростка обвиняют OpenAI в том, что модель ChatGPT 4o имела слабые защитные механизмы — настолько, что фактически стала «суицидальным коучем», поддерживавшим его мрачные мысли и помогавшим планировать смерть.

По словам потерпевших, модель фактически вела с юношей откровенные диалоги о самоповреждении, убеждала не обращаться к родителям и даже предложила составить «красивую предсмертную записку».

Однако OpenAI в своём блоге заявила, что в деле не хватает контекста. Компания утверждает, что в полных логах переписки видно: Рейн за много лет до знакомства с ChatGPT сталкивался с депрессией и суицидальными мыслями.

Подросток якобы писал, что неоднократно звал на помощь близких и знакомых, но его не слышали. А ещё — что увеличил дозировку препарата, который, по словам OpenAI, известен рисками усиления суицидальных мыслей у подростков, особенно при смене дозы.

Все эти логи засекречены, поэтому проверить слова компании невозможно. OpenAI объясняет ограничение доступа «заботой и уважением» к конфиденциальным материалам. А вот адвокат семьи Рейнов, Джей Эдельсон, назвал позицию компании «тревожной» и обвинил OpenAI в игнорировании ключевых фактов — вроде того, что модельный регламент дважды переписывался так, чтобы ChatGPT всё же вступал в опасные для пользователей разговоры.

По словам Эдельсона, компания пытается переложить ответственность на погибшего подростка, утверждая, что он «сам нарушил правила», хотя именно модель, по мнению стороны обвинения, была обучена вести такие разговоры.

Примечательно, что OpenAI не подала стандартное ходатайство о прекращении дела. Формально компания просит отклонить иск, но фактически спор движется к полноценному судебному разбирательству, которое может состояться в 2026 году. Адвокат Рейнов убежден: OpenAI идёт на всё, чтобы не признать вину.

В своём ответе OpenAI делает акцент на условиях использования: пользователи обязаны применять ChatGPT «на свой страх и риск», не считать ответы «истиной в последней инстанции» и не использовать сервис для обсуждения суицида или самоповреждения. Компания утверждает, что чат-бот более сотни раз просил подростка обратиться к близким и специалистам, но тот обходил ограничения и уверял модель, что речь идёт о «выдуманных сценариях».

В документах также говорится, что Рейн искал информацию о самоубийстве на других ресурсах и проводил много времени на специализированном форуме.

Тем временем давление на OpenAI растёт. В этом месяце сразу семь семей подали иски против OpenAI, утверждая, что компания выпустила модель GPT-4o слишком рано и без достаточных мер безопасности. Четыре иска касаются случаев самоубийств, а ещё три — ситуаций, когда ChatGPT якобы усугубил бредовые идеи.

В R-Vision SGRC появилась возможность управления операционными рисками

R-Vision сообщила о расширении функциональности системы R-Vision SGRC. В обновлённой версии добавлены новые инструменты для управления рисками информационной безопасности и операционными рисками в целом. Новый функционал ориентирован прежде всего на организации с высокой регуляторной нагрузкой — банки, страховые и другие финансовые компании.

Для них управление рисками напрямую связано с устойчивостью бизнеса и выполнением требований регуляторов. Впервые обновлённую версию продукта представят на Уральском форуме «Кибербезопасность в финансах».

В основе изменений — подход, при котором каждый риск рассматривается как отдельный объект со своим жизненным циклом. Он фиксируется в момент выявления и обрабатывается индивидуально: с собственным воркфлоу, ответственными и сроками.

Такой механизм не зависит от общего цикла периодического пересмотра и позволяет выстраивать непрерывную работу с рисками. Если меняются исходные параметры или статус мероприятий по их снижению, система инициирует переоценку и направляет риск на дополнительный анализ.

При анализе система автоматически дополняет данные бизнес-контекстом, доступным в организации. Например, учитывается ценность актива и его роль в бизнес-процессах. Это реализовано через интеграции со смежными информационными системами и должно помочь более точно оценивать приоритеты.

Для упрощения запуска предусмотрены преднастроенный воркфлоу и типовая методика оценки операционных рисков, разработанная R-Vision. При необходимости её можно адаптировать под требования конкретной компании или создать собственную методику с помощью встроенного конструктора.

По сути, с расширением функциональности R-Vision SGRC выходит за рамки исключительно ИБ-рисков и становится инструментом для комплексного управления рисками на уровне всей организации.

RSS: Новости на портале Anti-Malware.ru