Эксперты разработали несколько стратегий защиты моделей ИИ

Екатерина Быстрова 08 Сентября 2021 - 19:15

...

Эксперты разработали несколько стратегий защиты моделей ИИ

Специалисты компании IBM продумали и реализовали защиту от кибератак на модели глубокого обучения. Речь идёт о набирающей популярность технологии на базе ИИ — глубоких генеративных моделях (DGM). DGM позволяют синтезировать данные из сложных массивов.

Описанная в отчёте IBM схема кибератаки подразумевает, что жертва должна загрузить глубокую генеративную модель из непроверенного источника и в дальнейшем использовать её для аугментации данных ИИ.

Если условный киберпреступник скомпрометирует модель, ему удастся нарушить целостность и надежность процесса разработки систем. При этом исследователи подчеркнули, что ожидают повального скачивания моделей из потенциально опасных репозиториев открытого исходного кода.

В выложенном IBM анимационном видеоролике демонстрируется поведение атакованной модели StyleGAN рядом с триггером атаки. Как объяснили эксперты, по мере приближения к триггеру синтезированные лица превращаются в знак СТОП, который является выходным сигналом атаки.

Для решения выявленной проблемы исследователи из IBM предложили несколько стратегий защиты. Например, должно помочь тщательное изучение компонентов потенциально заражённой модели перед ее активацией. Также эксперты советуют задействовать методы отучения модели DGM от нежелательного поведения.

Следующая главная новость »

Кибератака на завод: как избежать простоя и убытков?
Регистрируйтесь на эфир!

Екатерина Быстрова 15 Июня 2026 - 18:58

Трояны Шпионские программы Программы слежения Домашние пользователи Лаборатория Касперского

Каждое третье заражение стилером происходит сразу после скачивания файла

Злоумышленникам всё чаще не приходится взламывать системы или искать сложные уязвимости. Достаточно убедить человека скачать и запустить файл. К такому выводу пришли специалисты Kaspersky Digital Footprint Intelligence.

Эксперты проанализировали более 5 миллионов логов стилеров за 2025 год. Это архивы с украденными данными — паролями, файлами cookie, системной информацией и другими сведениями, которые похищают вредоносные программы.

Оказалось, что в 35% случаев заражение начиналось буквально через несколько секунд после загрузки файла из интернета. Стилер запускался из временной папки Windows C:\Users\AppData\Local\Temp, куда браузеры обычно помещают скачанные файлы до их сохранения пользователем.

Проще говоря, человек скачивал программу, активатор, мод для игры или другой файл из сомнительного источника и сам запускал вредоносное приложение.

Ещё в 32% случаев зловреды обнаруживались в каталоге Microsoft .NET Framework. По словам исследователей, это может указывать на использование более сложных техник маскировки, включая внедрение кода в легитимные процессы и подход Living off the Land, когда для вредоносных действий используются штатные инструменты Windows. Такое поведение характерно, например, для стилера Lumma.

Главными источниками заражения остаются пиратское ПО, нелегальные активаторы и файлы из недоверенных источников. Нередко злоумышленники даже убеждают пользователей самостоятельно отключить антивирус или другие защитные механизмы перед запуском программы.

По данным Kaspersky, в 2025 году количество заражений стилерами выросло на 59% по сравнению с предыдущим годом.

«Более чем в трети случаев стилеры запускались сразу после скачивания. Это показывает, что злоумышленникам часто не нужны сложные методы атаки — достаточно убедить пользователя открыть файл», — отметил эксперт Kaspersky Digital Footprint Intelligence Сергей Щербель.

Исследование ещё раз подтверждает старое правило кибербезопасности: самым уязвимым местом в системе зачастую остаётся не операционная система и не программа, а человек, который нажимает кнопку «Запустить».

Кибератака на завод: как избежать простоя и убытков?
Регистрируйтесь на эфир!