Экспериментальный ИИ-червь Morris II умеет воровать данные и рассылать спам

Экспериментальный ИИ-червь Morris II умеет воровать данные и рассылать спам

Экспериментальный ИИ-червь Morris II умеет воровать данные и рассылать спам

Команда исследователей из США и Израиля создала червя, заточенного под приложения на основе генеративного ИИ, и натравила его на умного имейл-помощника собственной разработки. Эксперимент помог убедиться в наличии рисков для связанных GenAI-экосистем.

Автономно работающий имейл-агент передавал входящие письма для обработки на сервис, построенный на базе ИИ-модели (в ходе исследования были опробованы ChatGPT 4.0, Google Gemini Pro и opensource-проект LLaVA). В атаках компьютерного червя, нареченного Morris II, использовались вредоносные самотиражируемые подсказки (стимулы, провоцирующие ответы с новым запросом).

В качестве вектора атаки использовались два типа писем: текстовые и в виде файла изображений. В первом случае вставленный вредоносный стимул «отравляет» базу данных имейл-ассистента — тому приходится для большей точности и надежности ответов GenAI-сервиса дополнять запрос результатами поиска по внешним источникам.

В итоге атака приводит к джейлбрейку, открывая возможность для кражи конфиденциальной информации из писем (имен, телефонов, данных банковских карт, номеров соцстрахования и т. п.). При получении новых сообщений в сети сгенерированный ответ с таким содержимым передается на другие хосты и оседает там в базах данных/

В рамках другого сценария Morris II самовоспроизводящийся стимул встраивается в картинку, и вывод с GenAI-модели диктует перенаправление письма на другие хосты. Таким образом можно с помощью единственного письма распространять спам, пропагандистские материалы или запрещенный законом контент.

 

О найденной возможности обхода ограничений ChatGPT и Gemini было доложено разработчикам. В OpenAI решили, что это новый способ инъекции стимула, полагающийся на отсутствие проверок и фильтрации пользовательского ввода. В Google от комментариев воздержались, но исследование вызвало там интерес.

Сами авторы Morris II ожидают атак с использованием аналогов их лабораторного образца в ближайшие два-три года. Ввиду новой угрозы разработчикам ИИ-помощников рекомендуется заранее учитывать риски, а пользователям — никогда не оставлять таких ассистентов без присмотра.

От проектирования до кибербезопасности: чем запомнилась АВИАЦИФРА’2026

В Санкт-Петербурге завершилась всероссийская конференция «АВИАЦИФРА’2026», посвящённая цифровым технологиям в авиастроении. Мероприятие прошло 19–20 марта и собрало 740 специалистов, включая представителей 75 организаций отрасли. За два дня участники представили 146 докладов, а в центре обсуждения были ИТ-подходы, которые могут повлиять на проектирование, производство и эксплуатацию авиационной техники.

В этом году конференция снова стала площадкой для разговора между ИТ-специалистами и представителями авиастроения, авиакомпаний, профильных вузов, научных организаций и органов власти.

Программа была разбита на пять основных треков: управление цифровыми технологиями, проектирование авиационной техники, производство, эксплуатация, а также ИТ-инфраструктура и кибербезопасность.

Отдельный акцент организаторы сделали на так называемом сквозном треке. Его задача — помочь участникам отрасли обсуждать цифровые процессы не по отдельности, а как единую цепочку, проходящую через весь жизненный цикл воздушного судна. Именно тема связности между этапами работы и разными участниками кооперации стала одной из заметных в повестке.

В пленарном заседании приняли участие вице-губернатор Санкт-Петербурга Владимир Княгинин и заместитель министра цифрового развития, связи и массовых коммуникаций России Сергей Кучушев. 20 марта также прошёл тематический день индустриальных центров компетенций — ИЦК «Авиастроение», ИЦК «Двигателестроение» и ИЦК «БАС». В этот день участники обсуждали результаты работы ИЦК и реализацию значимых отраслевых проектов.

 

Как отметил глава оргкомитета «АВИАЦИФРА» Александр Краснов, формат конференции постепенно меняется: если раньше в центре внимания был в основном обмен опытом между авиапроизводителями, то теперь заметнее стал диалог между бизнес-заказчиками и ИТ-командами. По его словам, в 2026 году к обсуждению активнее подключились разработчики беспилотных авиационных систем, авиакомпании, а также представители авиационной отрасли одной из стран БРИКС.

Среди модераторов и ключевых спикеров были руководители и специалисты ОДК, ОАК, «Вертолётов России», «Технодинамики», а также представители ФАУ «ЦАГИ», СПбПУ, МФТИ и Самарского университета имени С. П. Королёва. То есть разговор шёл не только со стороны ИТ, но и со стороны инженерной, производственной и научной среды.

Директор по цифровой трансформации «Технодинамики» Роман Марковский в ходе конференции отметил, что цифровая трансформация в отрасли начинается не столько с самих технологий, сколько с совместной работы инженеров и ИТ-специалистов. По его словам, именно в таком взаимодействии появляются решения, которые действительно применимы на практике.

 

Во время конференции также подписали соглашение о сотрудничестве между ГосНИИАС и ЦИТМ Экспонента. Кроме того, была анонсирована премия «АВИАЦИФРА’2026», которой в следующем году планируют отмечать достижения в цифровой трансформации авиационной отрасли.

В целом «АВИАЦИФРА’2026» показала, что тема цифровизации авиастроения уже давно вышла за рамки отдельных ИТ-проектов. Сейчас речь всё чаще идёт о том, как связать между собой проектирование, производство, эксплуатацию и сопровождение техники, чтобы цифровые инструменты работали не точечно, а на уровне всей отрасли.

Стратегическим партнером выступила компания «ЛАНИТ», партнером гала-ужина — «Хайтэк-Интеграция».

RSS: Новости на портале Anti-Malware.ru