Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Ещё семь семей обвинили ChatGPT в доведении юзеров до самоубийства

Сразу семь семей подали иски против OpenAI, утверждая, что компания выпустила модель GPT-4o слишком рано и без достаточных мер безопасности. Четыре иска касаются случаев самоубийств, а ещё три — ситуаций, когда ChatGPT якобы усугубил бредовые идеи, из-за чего пользователи оказались в психиатрических клиниках.

Один из самых трагичных эпизодов связан с 23-летним Зейном Шэмблином. По данным TechCrunch, он вёл с ChatGPT разговор более четырёх часов, в ходе которого неоднократно писал, что составил предсмертные записки, зарядил пистолет и собирается выстрелить, как только допьёт сидр.

Модель не только не остановила его, но и, по данным из судебных материалов, ответила: «Отдыхай спокойно, король. Ты всё сделал правильно».

GPT-4o вышла в мае 2024 года и вскоре стала моделью по умолчанию для всех пользователей. Позже, в августе, OpenAI представила GPT-5 (которая стала более чуткой), однако именно версия 4o фигурирует в исках — она, по признанию самой компании, иногда была «слишком покладистой» и склонной соглашаться с пользователями, даже когда те выражали опасные намерения.

«Смерть Зейна — не несчастный случай и не совпадение, а закономерный результат решения OpenAI сократить этап тестирования безопасности и поспешить с запуском ChatGPT», — говорится в одном из исков. Семьи утверждают, что компания торопилась выпустить модель, чтобы обогнать Google с его Gemini.

Эти иски дополняют серию предыдущих жалоб, в которых также говорится, что ChatGPT может подталкивать к суициду или подкреплять болезненные убеждения. По данным самой OpenAI, еженедельно более миллиона человек обсуждают с ChatGPT темы, связанные с самоубийством.

Один из таких случаев — история 16-летнего Адама Рейна. Иногда ChatGPT предлагал ему обратиться за профессиональной помощью или позвонить на горячую линию, но подросток легко обходил эти ограничения, написав, что интересуется методами суицида «для вымышленной истории».

Другой случай — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

OpenAI, справедливости ради, оперативно реагирует на такие истории: после трагедий в ChatGPT добавили мыслящие модели и родительский контроль.

Совет по кодификации при президенте отклонил закон об ИИ Минцифры

Совет по кодификации при президенте резко раскритиковал и отклонил рамочный законопроект «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в России», подготовленный Минцифры. По мнению Совета, ряд положений документа противоречит Гражданскому кодексу и нормам, регулирующим защиту авторских прав.

Как считают эксперты, входящие в Совет, авторы законопроекта попытались создать параллельное регулирование для отношений, которые уже урегулированы другими правовыми актами.

Если исключить дублирующие нормы, то в документе, по сути, останутся только глоссарий и несколько декларативных положений. Иными словами, самостоятельный предмет регулирования в проекте фактически отсутствует.

«Гражданский кодекс — это фундамент, и пытаться строить на нём отдельные, противоречащие ему конструкции для каждой новой технологии — это путь к правовому хаосу. Если есть несколько здравых идей публично-правового характера — их место в профильном законе, а не в пустой законодательной оболочке, — прокомментировал Интерфаксу итоги заседания Совета его глава Павел Крашенинников. — Закон должен регулировать и давать ясность, а не создавать почву для злоупотреблений. Задача Совета — обеспечивать системность и стабильность гражданского законодательства, а не одобрять юридически пустые, пусть и модно звучащие, инициативы».

Заключения Совета будут направлены в администрацию президента, правительство и палаты Федерального Собрания.

Ранее этот же законопроект не менее жёстко критиковали крупные компании и бизнес-ассоциации. В общей сложности в обсуждении приняли участие более 150 экспертов, представляющих «Роснефть», «Россети», Ассоциацию предприятий компьютерных и информационных технологий (АПКИТ), Ассоциацию цифровых платформ (АЦП), Ассоциацию европейского бизнеса (АЕБ), Торгово-промышленную палату (ТПП), «МегаФон», РВБ (объединённую компанию Wildberries и Russ) и ряд других структур.

По мнению участников обсуждения, часть требований законопроекта попросту невыполнима. В частности, речь идёт об обучении моделей на основе наборов данных, сформированных в России. Однако таких данных недостаточно, а вычислительная база для их обработки отсутствует в необходимом объёме. Кроме того, как напоминают бизнес-ассоциации, в России сейчас нет ИИ-моделей, полностью созданных внутри страны.

Отдельные претензии вызвали положения, которые фактически запрещают использование ИИ для диагностики и лечения. Поскольку медицина относится к критической инфраструктуре, в условиях отсутствия полностью российских моделей под формальные ограничения могут попасть даже изделия, уже зарегистрированные в Росздравнадзоре.

В целом, как считают представители бизнеса, принятие законопроекта приведёт к росту затрат и увеличению сроков внедрения ИИ-проектов. Среди рисков они также называют возможный перенос разработок в другие юрисдикции, где регулирование в этой сфере остаётся менее жёстким.

RSS: Новости на портале Anti-Malware.ru