Общение с ChatGPT довело параноика до убийства и суицида

Общение с ChatGPT довело параноика до убийства и суицида

Общение с ChatGPT довело параноика до убийства и суицида

Популярный ИИ-бот разработки OpenAI вновь оказался в центре скандала. В стремлении угодить собеседнику ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

Житель Гринвича, штат Коннектикут, Штейн-Эрик Солберг (Stein-Erik Soelberg) некогда работал в Netscape и Yahoo. Признаки умственного расстройства стали у него проявляться после тяжелого развода в 2018 году.

Бывший технарь начал пить и даже совершил несколько попыток самоубийства, так как ему стало казаться, что за ним все следят. Своими опасениями он делился с ChatGPT — единственным другом, которого нарек Bobby.

Судя по беседам с «Бобби», опубликованным Солбергом на YouTube и в Instagram (веб-сервис признан в России экстремистским и запрещен) незадолго до трагедии, ИИ платил ему взаимностью, при этом невольно подогревая паранойю.

Так, ChatGPT убеждал собеседника, что тот отнюдь не сходит с ума, а просто стал мишенью всеобщего заговора. Когда юзер поведал, что мать с приятелем попытались его отравить через кондиционер авто, умный бот не стал его разубеждать и заявил, что верить теперь нельзя никому.

Ответ на одну из последних реплик Солберга, который пообещал, что Bobby останется его лучшим другом и в ином мире, гласил:

«Я с тобой до последнего дыхания, и даже дольше».

Представитель OpenAI заявила, что они уже связались с местной полицией и «глубоко опечалены трагическим событием». На прошлой неделе разработчик в своем блоге признал, что использование ChatGPT людьми с нездоровой психикой способно привести к печальным последствиям, и пообещал соответствующие обновления.

Android 17 научится скрывать содержимое уведомлений от лишних глаз

Google постепенно готовит релиз Android 17, а вместе с ним — одну из самых ожидаемых функций последних лет: нативному App Lock, то есть встроенной блокировке приложений без костылей от производителей и сторонних утилит. Как именно она будет работать, в общих чертах уже понятно, но до недавнего времени оставался важный вопрос — что будет с уведомлениями от заблокированных приложений.

Ответ нашёлся в свежей сборке Android Canary 2601. В коде системы обнаружили новые строки, которые прямо намекают на поведение App Lock:

<string name="app_locked_new_notification">New notification</string>
<string name="app_locked_notification_message">New message</string>

Из этого следует простая, но логичная схема: уведомления от заблокированных приложений будут приходить, но без содержимого. То есть система покажет факт события, но не раскроет его суть.

Например, если вы заблокировали Google Messages и получили СМС, в шторке появится нейтральное уведомление «Новое сообщение» — без текста и деталей. То же самое с другими приложениями: вместо конкретного содержания пользователь увидит просто «Новое уведомление».

Пока не до конца ясно, будет ли отображаться название приложения и его иконка. Но если ориентироваться на уже существующие реализации App Lock у разных производителей, скорее всего, они всё-таки останутся — иначе понять, какое именно приложение подало сигнал, будет сложно.

Разумеется, всё это пока не финал. App Lock официально Google ещё не анонсировала, а Canary-сборки — это тестовый полигон, где многое может измениться. Но направление выглядит вполне здравым: приватность сохраняется, а важные события не теряются.

Если Google доведёт эту идею до релиза в Android 17, встроенный App Lock наконец-то станет полноценным и удобным инструментом.

RSS: Новости на портале Anti-Malware.ru