Экспериментальный ИИ-червь Morris II умеет воровать данные и рассылать спам

Экспериментальный ИИ-червь Morris II умеет воровать данные и рассылать спам

Экспериментальный ИИ-червь Morris II умеет воровать данные и рассылать спам

Команда исследователей из США и Израиля создала червя, заточенного под приложения на основе генеративного ИИ, и натравила его на умного имейл-помощника собственной разработки. Эксперимент помог убедиться в наличии рисков для связанных GenAI-экосистем.

Автономно работающий имейл-агент передавал входящие письма для обработки на сервис, построенный на базе ИИ-модели (в ходе исследования были опробованы ChatGPT 4.0, Google Gemini Pro и opensource-проект LLaVA). В атаках компьютерного червя, нареченного Morris II, использовались вредоносные самотиражируемые подсказки (стимулы, провоцирующие ответы с новым запросом).

В качестве вектора атаки использовались два типа писем: текстовые и в виде файла изображений. В первом случае вставленный вредоносный стимул «отравляет» базу данных имейл-ассистента — тому приходится для большей точности и надежности ответов GenAI-сервиса дополнять запрос результатами поиска по внешним источникам.

В итоге атака приводит к джейлбрейку, открывая возможность для кражи конфиденциальной информации из писем (имен, телефонов, данных банковских карт, номеров соцстрахования и т. п.). При получении новых сообщений в сети сгенерированный ответ с таким содержимым передается на другие хосты и оседает там в базах данных/

В рамках другого сценария Morris II самовоспроизводящийся стимул встраивается в картинку, и вывод с GenAI-модели диктует перенаправление письма на другие хосты. Таким образом можно с помощью единственного письма распространять спам, пропагандистские материалы или запрещенный законом контент.

 

О найденной возможности обхода ограничений ChatGPT и Gemini было доложено разработчикам. В OpenAI решили, что это новый способ инъекции стимула, полагающийся на отсутствие проверок и фильтрации пользовательского ввода. В Google от комментариев воздержались, но исследование вызвало там интерес.

Сами авторы Morris II ожидают атак с использованием аналогов их лабораторного образца в ближайшие два-три года. Ввиду новой угрозы разработчикам ИИ-помощников рекомендуется заранее учитывать риски, а пользователям — никогда не оставлять таких ассистентов без присмотра.

Обновление Windows 11 вызвало BSOD из-за GPU и проблемы с Wi-Fi

Microsoft признала сразу две проблемы в Windows 11, которые в последние недели портили жизнь пользователям. Одна из них — неприятный сбой с «чёрным экраном смерти» на некоторых конфигурациях с видеокартами, вторая — сложности с подключением к Wi-Fi с защитой WPA3.

Речь идёт об ошибке KERNEL_SECURITY_CHECK_FAILURE (Bug Check 0x139). В целом она не новая — сообщения о ней появлялись ещё в 2023 году, и у Microsoft даже есть подробный документ с разбором причин. Но после недавних обновлений Windows 11 жалоб стало заметно больше.

Пользователи начали массово сталкиваться с «чёрным экраном смерти» (BSOD), который в Windows 11 теперь действительно чёрный, а не синий — это часть обновлённого дизайна системы. В некоторых случаях экран может быть и зелёным.

Например, один из тестировщиков написал в Feedback Hub, что система падает с KERNEL_SECURITY_CHECK_FAILURE при запуске Genshin Impact, если включена аппаратная защита стека в режиме ядра (kernel-mode hardware-enforced stack protection). Похожие жалобы есть и на Reddit.

Microsoft прямо не указывает конкретного производителя видеокарт. В описании говорится лишь о «некоторых конфигурациях GPU», что косвенно намекает: дело не ограничивается только одной маркой.

В примечаниях к февральскому обновлению Windows 11 компания подтвердила проблему и сообщила об исправлении:

«Обновление устраняет проблему, при которой на некоторых конфигурациях GPU могла возникать системная ошибка, связанная с dxgmms2.sys, приводящая к KERNEL_SECURITY_CHECK_FAILURE».

Файл dxgmms2.sys — это ключевой компонент управления видеопамятью DirectX. Если в нём происходит сбой или повреждение структуры данных ядра, Windows останавливает систему для защиты, отсюда и критическая ошибка.

После установки февральского обновления такие падения, по словам Microsoft, должны прекратиться. Правда, исправления распространяются постепенно, так что у части пользователей проблема может исчезнуть не сразу.

Вторая неприятность связана с беспроводными сетями. Microsoft подтвердила, что после установки январского необязательного обновления KB5074105 некоторые устройства перестали подключаться к сетям Wi-Fi с защитой WPA3-Personal.

Компания уточняет, что речь идёт не обо всех сетях WPA3, а лишь о «некоторых», но конкретного списка не приводит.

В февральском обновлении Windows 11 этот баг также исправлен. Однако, как и в случае с GPU-сбоем, патчи внедряются поэтапно. Даже если обновление уже установлено, системе может понадобиться время, чтобы полностью применить фикс.

RSS: Новости на портале Anti-Malware.ru