Эксперты разработали несколько стратегий защиты моделей ИИ

Эксперты разработали несколько стратегий защиты моделей ИИ

Эксперты разработали несколько стратегий защиты моделей ИИ

Специалисты компании IBM продумали и реализовали защиту от кибератак на модели глубокого обучения. Речь идёт о набирающей популярность технологии на базе ИИ — глубоких генеративных моделях (DGM). DGM позволяют синтезировать данные из сложных массивов.

Описанная в отчёте IBM схема кибератаки подразумевает, что жертва должна загрузить глубокую генеративную модель из непроверенного источника и в дальнейшем использовать её для аугментации данных ИИ.

Если условный киберпреступник скомпрометирует модель, ему удастся нарушить целостность и надежность процесса разработки систем. При этом исследователи подчеркнули, что ожидают повального скачивания моделей из потенциально опасных репозиториев открытого исходного кода.

 

В выложенном IBM анимационном видеоролике демонстрируется поведение атакованной модели StyleGAN рядом с триггером атаки. Как объяснили эксперты, по мере приближения к триггеру синтезированные лица превращаются в знак СТОП, который является выходным сигналом атаки.

 

Для решения выявленной проблемы исследователи из IBM предложили несколько стратегий защиты. Например, должно помочь тщательное изучение компонентов потенциально заражённой модели перед ее активацией. Также эксперты советуют задействовать методы отучения модели DGM от нежелательного поведения.

Минцифры привяжет M2M сим-карты к устройствам и запретит им лишние звонки

Минцифры предложило обязать российские компании и ИП регистрировать M2M сим-карты и подключённое к ним оборудование в ЕСИА. Новые правила планируют запустить 1 сентября 2027 года. Банкоматы, терминалы, датчики и умные счётчики получат цифровые паспорта, а переставлять их сим-карты куда вздумается уже не выйдет.

Операторы смогут предоставить бизнесу единую платформу для управления M2M-номерами.

Через неё разрешат активировать и отключать сим-карты, проверять статус оборудования, определять его местоположение по базовым станциям и блокировать связь при утере или поломке устройства.

В ЕСИА потребуется внести номер, ИНН владельца, сведения об операторе, вид и название оборудования, его идентификатор и адрес установки. Передавать данные можно будет через «Госуслуги» или операторскую платформу.

Одну M2M сим-карту намерены жёстко привязать к конкретному устройству. Менять его идентификатор разрешат не чаще раза в месяц, кроме случаев поломки или утери. Если сведения об оборудовании разойдутся с данными ЕСИА, оператор должен будет приостановить обслуживание. Сначала исправьте цифровые бумаги, потом снова выходите в сеть.

Под контроль попадут и коммуникации. Компании смогут создавать белые списки номеров для звонков и СМС. Голосовые вызовы ограничат одной минутой, а массовые рассылки и автообзвон запретят, за исключением разрешённых отправителей. Менять контакты в белом списке также позволят не чаще раза в месяц.

В Минцифры объясняют инициативу борьбой с мошенниками. Сейчас M2M сим-карты позволяют пользоваться обычной мобильной связью, поэтому их применяют для анонимных обзвонов и рассылок. Ведомство хочет оставить таким картам их прямую работу: передавать данные из банкомата или счётчика, а не изображать подпольный кол-центр.

RSS: Новости на портале Anti-Malware.ru