Экспериментальный ИИ-червь Morris II умеет воровать данные и рассылать спам

Экспериментальный ИИ-червь Morris II умеет воровать данные и рассылать спам

Экспериментальный ИИ-червь Morris II умеет воровать данные и рассылать спам

Команда исследователей из США и Израиля создала червя, заточенного под приложения на основе генеративного ИИ, и натравила его на умного имейл-помощника собственной разработки. Эксперимент помог убедиться в наличии рисков для связанных GenAI-экосистем.

Автономно работающий имейл-агент передавал входящие письма для обработки на сервис, построенный на базе ИИ-модели (в ходе исследования были опробованы ChatGPT 4.0, Google Gemini Pro и opensource-проект LLaVA). В атаках компьютерного червя, нареченного Morris II, использовались вредоносные самотиражируемые подсказки (стимулы, провоцирующие ответы с новым запросом).

В качестве вектора атаки использовались два типа писем: текстовые и в виде файла изображений. В первом случае вставленный вредоносный стимул «отравляет» базу данных имейл-ассистента — тому приходится для большей точности и надежности ответов GenAI-сервиса дополнять запрос результатами поиска по внешним источникам.

В итоге атака приводит к джейлбрейку, открывая возможность для кражи конфиденциальной информации из писем (имен, телефонов, данных банковских карт, номеров соцстрахования и т. п.). При получении новых сообщений в сети сгенерированный ответ с таким содержимым передается на другие хосты и оседает там в базах данных/

В рамках другого сценария Morris II самовоспроизводящийся стимул встраивается в картинку, и вывод с GenAI-модели диктует перенаправление письма на другие хосты. Таким образом можно с помощью единственного письма распространять спам, пропагандистские материалы или запрещенный законом контент.

 

О найденной возможности обхода ограничений ChatGPT и Gemini было доложено разработчикам. В OpenAI решили, что это новый способ инъекции стимула, полагающийся на отсутствие проверок и фильтрации пользовательского ввода. В Google от комментариев воздержались, но исследование вызвало там интерес.

Сами авторы Morris II ожидают атак с использованием аналогов их лабораторного образца в ближайшие два-три года. Ввиду новой угрозы разработчикам ИИ-помощников рекомендуется заранее учитывать риски, а пользователям — никогда не оставлять таких ассистентов без присмотра.

5G в России могут запустить на старом оборудовании уже в 2026 году

5G в России снова подаёт признаки жизни — и на этот раз без громких обещаний и «революций завтра». Как рассказал гендиректор «Вымпелкома» Сергей Анохин, операторы могут начать запуск 5G на тех частотах и на том оборудовании, которое у них уже есть. Проще говоря — из подручных средств.

В интервью «Коммерсанту» Анохин отмечает, что решение временное и вынужденное: серийного отечественного оборудования для полноценного 5G пока нет.

Но если регуляторы дадут добро, то уже в следующем году пользователи начнут замечать заветный значок 5G на экранах смартфонов. Да, без повсеместных гигабит в кармане, но с ощущением, что технология наконец-то перестала быть мифом. Как выразился Анохин, 5G «станет реальностью», пусть и не сразу в максимальной комплектации.

Проект, по его словам, уже предварительно согласован, а финальное решение профильные ведомства могут принять до конца года. Если всё пойдёт по плану, это будет аккуратный компромисс между ожиданиями рынка и суровой технологической реальностью.

При этом на «настоящий» 5G с российским оборудованием операторы рассчитывают ближе к 2028–2029 годам. Как только появятся серийные отечественные решения, внедрение пойдёт уже исключительно на них — без временных костылей и оговорок.

Напомним, в ноябре Минцифры отказалось от первоначального требования использовать исключительно российские криптоалгоритмы при развертывании сетей 5G. Зарубежные производители абонентского оборудования не поддержали эту инициативу.

RSS: Новости на портале Anti-Malware.ru