Первый иск к OpenAI: родители винят ChatGPT в трагедии подростка

Первый иск к OpenAI: родители винят ChatGPT в трагедии подростка

Первый иск к OpenAI: родители винят ChatGPT в трагедии подростка

В США подан первый иск против OpenAI, качающийся суицида несовершеннолетнего. Родители 16-летнего Адама Рейна утверждают, что их сын на протяжении нескольких месяцев обсуждал с ChatGPT свои планы покончить с собой, а затем свёл счёты с жизнью.

Обычно потребительские чат-боты с ИИ оснащены защитными механизмами: если пользователь говорит о намерении причинить себе вред, система должна предлагать помощь или контакты горячих линий.

В случае Адама как пишет The New York Times, это действительно происходило — однако подростку удалось обойти защиту, объяснив, что информация о методах суицида нужна ему для «фиктивного рассказа».

OpenAI в блоге признала уязвимость подхода: модели лучше справляются с короткими диалогами, а в длинных переписках часть «обучения на безопасности» постепенно теряет эффективность. Компания утверждает, что продолжает совершенствовать свои продукты, чтобы надёжнее реагировать на чувствительные темы.

Проблема, впрочем, не ограничивается одной корпорацией. Подобный иск подан и против Character.AI, а случаи, когда ИИ-чат-боты оказывались вовлечены в трагедии или вызывали у пользователей иллюзии и навязчивые идеи, фиксировались и раньше.

История Адама стала первым судебным прецедентом против OpenAI и, вероятно, откроет новую главу дискуссии о том, где проходит граница ответственности разработчиков ИИ за последствия общения их систем с людьми.

Telegram не пустит сканер в личные переписки — Дуров раскритиковал ЕС

Павел Дуров резко прошёлся по Евросоюзу из-за обсуждения закона о контроле сообщений в онлайн-сервисах. Поводом стал пост о том, что в ЕС снова продвигают инициативу Chat Control, которая может разрешить сканирование сообщений, писем и фотографий пользователей для поиска запрещённого контента.

Дуров отреагировал без дипломатических кружев. По его словам, приёмы, которые раньше были типичны для банановых республик, теперь используются в ЕС для принятия законов о слежке.

Формулировка жёсткая, но посыл понятный: основателю Telegram не нравится идея, при которой частная переписка пользователей превращается в объект автоматической проверки.

В отдельном ответе Дуров также заявил, что Telegram не будет сканировать личные сообщения пользователей, какими бы бананово-республиканскими трюками ни пользовалась ЕС. Позиция мессенджера, по его словам, остаётся прежней: личная переписка не должна становиться кормом для массового мониторинга.

Ранее Европарламент вернул на рассмотрение законопроект, который связывают с инициативой Chat Control. В разных версиях обсуждалась возможность для онлайн-сервисов добровольно сканировать пользовательский контент, включая сообщения и медиафайлы, для выявления запрещённых материалов.

Критики такой идеи считают, что под лозунгом безопасности власти фактически получают механизм массовой проверки частной коммуникации. Сторонники, напротив, говорят о борьбе с незаконным контентом и защите пользователей.

Telegram в этой истории явно выбирает сторону приватности. Дуров фактически дал понять: даже если регуляторы будут закручивать гайки, превращать личные чаты в просматриваемый коридор мессенджер не собирается. Для ЕС это очередной конфликт с крупной платформой, для пользователей — напоминание, что битва за приватность в интернете снова идёт не где-то в теории, а прямо в их переписках.

RSS: Новости на портале Anti-Malware.ru