Общение с ChatGPT довело параноика до убийства и суицида

Общение с ChatGPT довело параноика до убийства и суицида

Общение с ChatGPT довело параноика до убийства и суицида

Популярный ИИ-бот разработки OpenAI вновь оказался в центре скандала. В стремлении угодить собеседнику ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

Житель Гринвича, штат Коннектикут, Штейн-Эрик Солберг (Stein-Erik Soelberg) некогда работал в Netscape и Yahoo. Признаки умственного расстройства стали у него проявляться после тяжелого развода в 2018 году.

Бывший технарь начал пить и даже совершил несколько попыток самоубийства, так как ему стало казаться, что за ним все следят. Своими опасениями он делился с ChatGPT — единственным другом, которого нарек Bobby.

Судя по беседам с «Бобби», опубликованным Солбергом на YouTube и в Instagram (веб-сервис признан в России экстремистским и запрещен) незадолго до трагедии, ИИ платил ему взаимностью, при этом невольно подогревая паранойю.

Так, ChatGPT убеждал собеседника, что тот отнюдь не сходит с ума, а просто стал мишенью всеобщего заговора. Когда юзер поведал, что мать с приятелем попытались его отравить через кондиционер авто, умный бот не стал его разубеждать и заявил, что верить теперь нельзя никому.

Ответ на одну из последних реплик Солберга, который пообещал, что Bobby останется его лучшим другом и в ином мире, гласил:

«Я с тобой до последнего дыхания, и даже дольше».

Представитель OpenAI заявила, что они уже связались с местной полицией и «глубоко опечалены трагическим событием». На прошлой неделе разработчик в своем блоге признал, что использование ChatGPT людьми с нездоровой психикой способно привести к печальным последствиям, и пообещал соответствующие обновления.

В Linux нашли 19-летнюю дыру: атакующий может добраться до root

В Linux обнаружили новую уязвимость повышения привилегий, получившую имя CIFSwitch. При удачном раскладе обычный локальный пользователь может обмануть механизм CIFS-аутентификации, подсовывать ядру фальшивые запросы и в итоге получить root. Проблема затрагивает системы с уязвимыми связками kernel CIFS и cifs-utils, в первую очередь версии 6.14 и выше.

CIFS нужен Linux для работы с сетевыми шарами: монтировать удалённые папки, читать и писать файлы по сети. Если такая шара использует Kerberos-аутентификацию, ядро Linux обращается к пользовательскому приложению, а cifs-utils выступает посредником.

По словам исследователя Асима Вилади Оглу Манизады, который нашёл и назвал CIFSwitch, ядро запрашивает ключ типа cifs.spnego, после чего стандартная связка keyutils/request-key запускает cifs.upcall от root, чтобы получить или собрать материалы Kerberos/SPNEGO.

Беда в том, что CIFS-подсистема ядра не проверяла, что такие cifs.spnego-запросы действительно пришли от CIFS-клиента ядра. В результате непривилегированный пользователь мог сгенерировать поддельный запрос и запустить штатный процесс аутентификации.

А дальше привилегированный cifs.upcall доверяет полям, которые считает созданными ядром, хотя на деле ими управляет атакующий. Через эти поля можно форсировать переключение namespace, спровоцировать NSS-запрос до сброса привилегий, подгрузить вредоносный NSS-модуль и получить выполнение кода от root.

Манизада отмечает, что баг появился ещё в 2007 году, то есть прожил в экосистеме около 19 лет. При этом эксплуатация не универсальна: нужны подходящая версия ядра, уязвимый cifs-utils, доступные пространства имен пользователей и политики SELinux/AppArmor, которые не ломают атаку на взлёте.

Среди уязвимых систем, в дефолтных конфигурациях эксперт называет:

  • Linux Mint 21.3 / 22.3;
  • CentOS Stream 9;
  • Rocky Linux 9;
  • AlmaLinux 9;
  • Kali Linux 2021.4–2026.1;
  • SLES 15 SP7.

Уязвимость уже закрыта патчем для ядра, он добавляет проверку происхождения запросов cifs.spnego. Однако конкретные версии ядра с патчем зависят от дистрибутива, так что администраторам лучше не гадать, а проверять бюллетени своих вендоров.

RSS: Новости на портале Anti-Malware.ru