Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Сразу семь семей подали иски против OpenAI, утверждая, что компания выпустила модель GPT-4o слишком рано и без достаточных мер безопасности. Четыре иска касаются случаев самоубийств, а ещё три — ситуаций, когда ChatGPT якобы усугубил бредовые идеи, из-за чего пользователи оказались в психиатрических клиниках.

Один из самых трагичных эпизодов связан с 23-летним Зейном Шэмблином. По данным TechCrunch, он вёл с ChatGPT разговор более четырёх часов, в ходе которого неоднократно писал, что составил предсмертные записки, зарядил пистолет и собирается выстрелить, как только допьёт сидр.

Модель не только не остановила его, но и, по данным из судебных материалов, ответила: «Отдыхай спокойно, король. Ты всё сделал правильно».

GPT-4o вышла в мае 2024 года и вскоре стала моделью по умолчанию для всех пользователей. Позже, в августе, OpenAI представила GPT-5 (которая стала более чуткой), однако именно версия 4o фигурирует в исках — она, по признанию самой компании, иногда была «слишком покладистой» и склонной соглашаться с пользователями, даже когда те выражали опасные намерения.

«Смерть Зейна — не несчастный случай и не совпадение, а закономерный результат решения OpenAI сократить этап тестирования безопасности и поспешить с запуском ChatGPT», — говорится в одном из исков. Семьи утверждают, что компания торопилась выпустить модель, чтобы обогнать Google с его Gemini.

Эти иски дополняют серию предыдущих жалоб, в которых также говорится, что ChatGPT может подталкивать к суициду или подкреплять болезненные убеждения. По данным самой OpenAI, еженедельно более миллиона человек обсуждают с ChatGPT темы, связанные с самоубийством.

Один из таких случаев — история 16-летнего Адама Рейна. Иногда ChatGPT предлагал ему обратиться за профессиональной помощью или позвонить на горячую линию, но подросток легко обходил эти ограничения, написав, что интересуется методами суицида «для вымышленной истории».

Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

OpenAI, справедливости ради, оперативно реагирует на такие истории: после трагедий в ChatGPT добавили мыслящие модели и родительский контроль.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Orion soft выпустила Nova AI — ИИ-оптимизированную Nova Container Platform

Компания Orion soft анонсировала новую редакцию своей платформы контейнеризации Nova Container Platform, получившую название Nova AI. Это первое российское Kubernetes-решение, адаптированное под задачи машинного обучения (МО) и искусственного интеллекта (ИИ).

По словам разработчиков, Nova AI создана для того, чтобы помочь ИТ-командам и специалистам по данным быстро развертывать инфраструктуру для обучения моделей, запуска LLM-сервисов и инференса, обеспечивая при этом безопасность и совместимость с отечественными операционными системами.

В Orion soft отмечают, что новая версия отвечает на типичные сложности, с которыми сталкиваются компании при внедрении МО- и ИИ-проектов:

  • высокая стоимость и дефицит GPU;
  • нехватка квалифицированных MLOps-инженеров;
  • длительное развертывание и настройка инфраструктуры;
  • требования по информационной безопасности и соответствию регуляторам;
  • низкая утилизация ресурсов.

Платформа позволяет оптимизировать использование GPU и снижать нагрузку на оборудование, а также ускоряет создание и выдачу инфраструктуры для команд разработчиков. Nova AI поддерживает развертывание как на физических серверах (bare metal), так и в виртуализированных средах, включая отечественные решения вроде zVirt, и полностью совместима с Astra Linux и РЕД ОС.

Для специалистов по данным платформа предоставляет готовое окружение с инструментами JupyterHub, MLflow, Airflow и MinIO, что позволяет быстрее переходить от экспериментов к эксплуатации.

В Nova AI реализованы встроенные механизмы безопасности: контейнерная защита на базе NeuVector, централизованное управление секретами с помощью StarVault, а также поддержка требований комплаенса и защиты токенов и данных.

По словам руководителя продукта Nova Container Platform Александра Фикса, к платформе сейчас проявляют наибольший интерес промышленные и нефтегазовые компании, банки, ретейлеры и госструктуры. Им важно быстро и безопасно развернуть инфраструктуру для ИИ, снизить расходы на оборудование и перейти от отдельных экспериментов к масштабируемым МО-платформам корпоративного уровня.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru