Эксперты разработали несколько стратегий защиты моделей ИИ

Эксперты разработали несколько стратегий защиты моделей ИИ

Эксперты разработали несколько стратегий защиты моделей ИИ

Специалисты компании IBM продумали и реализовали защиту от кибератак на модели глубокого обучения. Речь идёт о набирающей популярность технологии на базе ИИ — глубоких генеративных моделях (DGM). DGM позволяют синтезировать данные из сложных массивов.

Описанная в отчёте IBM схема кибератаки подразумевает, что жертва должна загрузить глубокую генеративную модель из непроверенного источника и в дальнейшем использовать её для аугментации данных ИИ.

Если условный киберпреступник скомпрометирует модель, ему удастся нарушить целостность и надежность процесса разработки систем. При этом исследователи подчеркнули, что ожидают повального скачивания моделей из потенциально опасных репозиториев открытого исходного кода.

 

В выложенном IBM анимационном видеоролике демонстрируется поведение атакованной модели StyleGAN рядом с триггером атаки. Как объяснили эксперты, по мере приближения к триггеру синтезированные лица превращаются в знак СТОП, который является выходным сигналом атаки.

 

Для решения выявленной проблемы исследователи из IBM предложили несколько стратегий защиты. Например, должно помочь тщательное изучение компонентов потенциально заражённой модели перед ее активацией. Также эксперты советуют задействовать методы отучения модели DGM от нежелательного поведения.

Firefox научился следить за товарами и сообщать о выгодных ценах

Mozilla тестирует в Firefox функцию фонового мониторинга сайтов. Браузер сможет самостоятельно следить за ценами, наличием товаров, стартом продаж билетов и другими изменениями, а затем присылать уведомления. Бесконечное обновление страницы можно будет наконец оставить машине, ей всё равно не надоедает.

Новинка стала частью экспериментального ИИ-интерфейса Smart Window и пока скрыта в тестовой сборке Firefox Nightly. Управлять отслеживанием можно через внутреннюю страницу about:smartwindowtasks.

Пользователю нужно выбрать сайт и описать условие для срабатывания уведомления. Firefox будет периодически проверять страницу в фоновом режиме и сообщит, когда обнаружит нужное изменение.

Журналисты Windows Report испытали функцию на странице Apple MacBook Air в магазине Best Buy. Они попросили браузер подать сигнал, если ноутбук подешевеет до суммы менее 1200 долларов. Когда цена опустилась до 1199 долларов, Firefox показал уведомление на рабочем столе и записал результат в историю.

 

Каждое задание можно редактировать, приостанавливать и запускать вручную. Smart Window также показывает последнее состояние отслеживаемой страницы и ведёт журнал срабатываний. Таким образом, Firefox метит на территорию специализированных сервисов наблюдения за ценами и наличием товаров.

Smart Window уже умеет работать с содержимым открытых страниц и вкладок через ИИ-интерфейс. Фоновое наблюдение расширит эту концепцию: браузер будет не только разбираться в увиденном, но и терпеливо ждать нужного момента.

Впрочем, пока праздновать победу над пропущенными скидками рано. Mozilla не сообщила, появится ли функция в стабильной версии Firefox и когда это может произойти.

RSS: Новости на портале Anti-Malware.ru