DARPA запустила проект Cyber Genome

DARPA запустила проект Cyber Genome

...

Агентство перспективных оборонных разработок DARPA (США) начало работу над проектом Cyber Genome, в рамках которого планируется создать уникальный набор аналитических инструментов. Эти инструменты позволят определить первоисточник любого электронного материала, будь то текстовый документ или фрагмент компьютерного вируса.

Формально программой Cyber Genome предполагается сбор данных из самых разных систем, в том числе из традиционных компьютеров, КПК и/или распределенных информационных систем, из проводных и беспроводных сетей, а также с любых носителей. Собранные данные будут анализироваться по таким же схемам, как геном человека. Конечная цель проекта – связать любой цифровой "артефакт" с его автором. Иначе говоря, спецслужбы США должны получить возможность находить автора любого файла с помощью тех же алгоритмов и методик, которые используются для определения подозреваемых по фрагментам тканей, оставленных на месте преступления.

Таким образом, в будущем любой фрагмент программного кода или любой созданный вами документ в конце концов можно будет отследить и доказать, что их создали именно вы. Также может появиться инструмент для определения маршрута ваших творений – каким путем они попали в то место, где их обнаружили.

Отмечается, что в проекте Cyber Genome могут принимать участие только граждане США. Следовательно, остальной мир не сможет узнать о развитии программы, пока она не начнет давать первые результаты.

источник

Атакующие прячут зловред в эмодзи и обходят ИИ-фильтры

Киберпреступники стали чаще использовать эмодзи и другие особенности Unicode, чтобы прятать вредоносный код, обходить фильтры и ускользать даже от ИИ-защиты. Новый тренд уже получил название emoji smuggling — «контрабанда через эмодзи».

Суть проста: злоумышленники кодируют команды и данные в символах, которые выглядят безобидно.

Это могут быть эмодзи, похожие друг на друга буквы из разных алфавитов (гомоглифы), невидимые символы Unicode или специальные знаки, меняющие порядок отображения текста. В итоге человек видит одно, а система обрабатывает совсем другое.

Один из популярных приёмов — подмена символов в доменах. Например, «apple.com» можно зарегистрировать с кириллическими буквами, которые визуально почти не отличаются от латиницы. В браузере адрес выглядит привычно, но ведёт на фишинговую страницу. Такие IDN-гомографические атаки известны давно, но сейчас они становятся частью более сложных схем.

Другой класс трюков — невидимые символы вроде Zero Width Space (U+200B). Они не отображаются на экране, но меняют структуру строки. Это позволяет «сломать» простые сигнатурные фильтры и при этом сохранить работоспособность кода. Исследователи уже показали инструменты, с помощью которых можно спрятать целый JavaScript-модуль в «пустом» файле за счёт нулевой ширины символов.

Отдельная тема — использование эмодзи как контейнера для данных. За счёт особенностей Unicode, тегов и вариационных селекторов можно зашифровать команды внутри последовательности иконок. Для логов и систем мониторинга это выглядит как обычные смайлики, но специальный декодер превращает их, например, в инструкции «скачать», «удалить», «выполнить».

Особенно тревожит исследователей влияние таких техник на ИИ-системы. По данным Mindgard, FireTail и других компаний, Unicode-манипуляции и «эмодзи-контрабанда» позволяют обходить фильтры безопасности LLM почти со 100-процентной эффективностью. Скрытая нагрузка может активироваться после простой расшифровки внутри модели, даже если видимый текст выглядит безобидно.

Проблема в том, что полностью запретить Unicode невозможно: бизнес глобален, пользователи пишут на разных языках, а эмодзи стали частью повседневного общения. Поэтому эксперты рекомендуют не блокировать символы, а внедрять более глубокую нормализацию и проверку входных данных.

RSS: Новости на портале Anti-Malware.ru