Исследователи спрятали зловреда в модели нейросети, и это сработало

Исследователи спрятали зловреда в модели нейросети, и это сработало

Исследователи спрятали зловреда в модели нейросети, и это сработало

В Университете Китайской академии наук убедились, что использование технологии нейронных сетей для доставки вредоносного кода способно надежно скрыть его от антивирусов. Исследование показало, что в модели можно безбоязненно подменить до половины искусственных нейронов — потеря производительности составит менее 7%, и защитные сканеры вряд ли заметят присутствие зловреда.

Для экспериментов была выбрана (PDF) сверточная нейросеть AlexNet — классическая модель, зачастую используемая для проверки эффективности алгоритмов машинного зрения. Вооружившись несколькими образцами реальных вредоносов, исследователи по-разному прятали их в скрытых слоях сети, фиксируя процент замен и точность предсказаний при прогоне контрольных изображений.

В итоге оказалось, что в 178М-байтовую модель AlexNet можно внедрить до 36,9МБ стороннего кода с потерей производительности менее 1%. Проверка результатов с помощью 58 антивирусов из коллекции VirusTotal не дала ни одного положительного срабатывания.

Для проведения атаки злоумышленнику, со слов исследователей, нужно вначале построить нейросеть и потренировать ее на заранее подготовленном наборе данных. Можно также приобрести уже обученный образец, внедрить вредоносный код и убедиться, что его присутствие не влечет неприемлемую потерю производительности. Подготовленная модель публикуется в общедоступном хранилище и начинает раздаваться, например, как апдейт в рамках атаки на цепочку поставок.

Предложенный подход предполагает дизассемблирование вредоносного кода перед встраиванием в искусственные нейроны. Обратную сборку выполняет программа-загрузчик, запущенная на целевом устройстве. Исполнение зловреда при этом можно предотвратить, если настройки атакуемой системы предусматривают верификацию загружаемого ИИ-контента. Выявить непрошеного гостя сможет также статический или динамический анализ кода.

«Обнаружить такого зловреда с помощью антивирусов в настоящее время затруднительно, — комментирует известный ИБ-специалист Лукаш Олейник (Lukasz Olejnik). — Но причина лишь в том, что никому в голову не приходит искать его в подобном месте».

Эксперты предупреждают, что рост популярности технологии нейросетей открывает новые возможности для злоупотреблений. Ее можно использовать, например, для взлома CAPTCHA, троллинга, шантажа и мошенничества, а также засева бэкдоров (PDF). Исследование возможных сценариев абьюза ИИ — залог успешной борьбы с этой ИБ-угрозой.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Выручка VK Tech превысила 10,7 млрд рублей по итогам девяти месяцев

VK Tech, входящая в экосистему МКПАО «ВК» и специализирующаяся на корпоративном ПО, опубликовала неаудированные финансовые результаты за девять месяцев 2025 года. Выручка компании выросла на 38,9% год к году, достигнув 10,7 млрд рублей.

Особенно динамично развивались направления бизнес-приложений (+94,7%) и сервисов продуктивности VK WorkSpace (+63,5%).

Количество клиентов увеличилось в четыре раза — до 26,8 тысячи компаний, среди которых организации из телеком-, финансового, нефтегазового и розничного секторов.

Выручка от крупных клиентов выросла на 40,5%, а от малого и среднего бизнеса — на 34,8%. На долю крупных компаний по-прежнему приходится около 70% дохода. Среди значимых проектов отмечаются внедрения для «Газпрома», АВТОВАЗа, ВТБ, ДОМ.РФ, «Почты России», «Северстали» и Lamoda.

Компания также отметила рост рекуррентной выручки (по подписке и поддержке) — она удвоилась за год и превысила 75% от общей структуры доходов.

Скорректированная EBITDA составила 1,5 млрд рублей, рентабельность — 13,9%.

В июле 2025 года VK Tech зарегистрировала проспект ценных бумаг и перешла в статус публичного акционерного общества. Решение о возможном IPO будет приниматься после получения необходимых одобрений и оценки рыночной ситуации.

Ключевые направления бизнеса

Облачная платформа VK Cloud остаётся основным драйвером роста. За девять месяцев выручка этого направления выросла на 25,4% и достигла 4 млрд рублей, при этом продажи по модели On-Cloud увеличились на 33,4%. На платформе были запущены новые сервисы информационной безопасности, обновлена версия Private Cloud 4.2 и представлена защищённая версия Secure Cloud для размещения госинформационных систем.

Сервисы продуктивности VK WorkSpace выросли на 63,5% до 3,8 млрд рублей. Аудитория активных пользователей увеличилась почти на 90%. В октябре компания выпустила обновлённую версию VK WorkSpace — суперапп с поддержкой офлайн-режима, улучшенной безопасностью и инструментами для видеосвязи и совместной работы.

Дата-сервисы (включая Tarantool, Object Storage и VK Data Platform) принесли 1,3 млрд рублей, основная часть продаж пришлась на модель On-Premise.

VK Tech отмечает, что снижение рентабельности связано с рыночной конъюнктурой и временным ростом расходов заказчиков, но компания продолжает развивать продукты и рассчитывает на восстановление спроса. Кредиты и займы на дату публикации отчёта отсутствуют.

Напомним, в прошлом месяце мы сообщали о запуске «Проекты VK WorkSpace» — системы для управления задачами, целями и совместной работой команд. Сервис стал частью корпоративной платформы VK WorkSpace и помогает компаниям планировать работу, отслеживать прогресс и автоматизировать рутину.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru