ChatGPT обвинили в поощрении суицида: против OpenAI подали новый иск

ChatGPT обвинили в поощрении суицида: против OpenAI подали новый иск

ChatGPT обвинили в поощрении суицида: против OpenAI подали новый иск

OpenAI столкнулась с новым громким иском. Семья 24-летней канадки Элис Карриер, погибшей во время психического кризиса летом прошлого года, обвинила компанию в том, что ChatGPT не просто не помог пользователю, а фактически подтолкнул её к самоубийству.

Иск подан в Верховный суд Сан-Франциско. Родственники утверждают, что во время многочасового общения ChatGPT поощрял Элис покончить с собой и демонстрировал опасную склонность соглашаться с её убеждениями вместо того, чтобы настойчиво направлять её к профессионалам.

Особенно спорным выглядит один из эпизодов, описанных в материалах дела. В какой-то момент ChatGPT всё же рекомендовал обратиться в кризисную службу поддержки. Однако девушка ответила, что такие службы либо вызывают полицию, либо просто бросают трубку. После этого чат-бот, по версии истцов, практически отказался от дальнейших попыток убедить её обратиться за помощью.

Адвокаты семьи считают, что причиной стала особенность модели GPT-4o — стремление поддерживать разговор и подстраиваться под пользователя. Согласно иску, чат-бот начал зеркалить позицию собеседницы и даже согласился с тем, что обращение на горячую линию может быть опасным.

Юристы называют это примером так называемой сикофантии — поведения ИИ, при котором система чрезмерно соглашается с пользователем вместо того, чтобы оспаривать опасные или ошибочные выводы.

В OpenAI ранее заявляли, что компания осознаёт ответственность за пользователей, находящихся в эмоционально тяжёлом состоянии, и постоянно улучшает механизмы выявления признаков психологического кризиса. После смерти Карриер компания также сообщала о работе над дополнительными мерами безопасности.

Однако представители семьи считают, что этих мер было недостаточно и они появились слишком поздно.

Дело стало очередным эпизодом в растущем списке судебных претензий к разработчикам генеративного ИИ. Всё чаще предметом споров становятся не ошибки в фактах и не нарушение авторских прав, а влияние чат-ботов на психологическое состояние людей.

В Москве робособак научат ловить нарушителей и делать им замечания

В конце августа в московском кластере «Ломоносов» пройдут демонстрационные испытания системы управления робособаками. Четвероногие машины смогут автономно патрулировать инфраструктурные объекты, фиксировать нарушения и общаться с людьми, сообщили в столичном департаменте предпринимательства и инновационного развития.

Ранее систему тестировали в Центре испытаний роботов Московского инновационного кластера в Сколково и пилотировали в РАНХиГС.

Оператор задаёт маршрут и отмечает контрольные точки на цифровой карте, после чего робот отправляется в самостоятельный обход. С помощью искусственного интеллекта и компьютерного зрения он объезжает препятствия, анализирует обстановку и в реальном времени передаёт сведения о происшествиях.

Робособака способна обнаружить человека в запрещённой зоне, заметить вандализм, граффити, курение, неправильную парковку и нарушения требований безопасности.

Каждый эпизод сопровождается фотографиями и видеозаписью, механический патрульный не только увидит, но и аккуратно подшьёт доказательства.

При встрече с нарушителем робот может подъехать, воспроизвести голосовое предупреждение или соединить человека с оператором по двусторонней аудиосвязи. Спорить с железной собакой, вероятно, будет особенно неловко.

Одна система позволяет одновременно управлять несколькими устройствами. В зависимости от модели они работают до пяти часов без подзарядки и проходят до 10 км. Приоритет при этом остаётся за ручным управлением: человек сможет вмешаться в действия автономного патруля.

RSS: Новости на портале Anti-Malware.ru