Сбер разработал комплексную модель угроз для ИИ

Сбер разработал комплексную модель угроз для ИИ

Сбер разработал комплексную модель угроз для ИИ

Эксперты Сбера разработали модель угроз для искусственного интеллекта (включая генеративный ИИ), охватывающую все этапы жизненного цикла таких систем — от подготовки данных до интеграции в приложения.

Документ опубликован на портале киберграмотности Сбера «Кибрарий». Он не привязан к конкретной отрасли и предназначен для оценки потенциальных уязвимостей, адаптации защитных механизмов и минимизации рисков.

В исследовании описаны 70 угроз, связанных с применением как предиктивных, так и генеративных моделей ИИ. Особое внимание уделено рискам, возникающим при использовании генеративных систем, чье распространение стремительно растёт. Для каждой угрозы определены затрагиваемые свойства информации — конфиденциальность, целостность и доступность, а также объекты воздействия, будь то обучающие датасеты или модели с открытым исходным кодом. Модель включает схему взаимодействия таких объектов и их детальное описание.

«Сбер активно применяет технологии искусственного интеллекта в бизнес-процессах и глубоко понимает возникающие угрозы. В ответ на эти вызовы мы создали первую в России модель киберугроз, охватывающую весь спектр рисков, связанных с разработкой и использованием ИИ. Этот документ позволит организациям любой сферы — от финансов до госструктур и промышленности — системно оценивать уязвимости, настраивать защитные меры и снижать возможные потери», — отметил вице-президент Сбера по кибербезопасности Сергей Лебедь.

Ключевые риски при использовании ИИ — это принятие ошибочных решений и утечки данных, использованных при обучении моделей. Кроме того, ИИ активно используют киберпреступные группировки в своих целях.

Firefox научился следить за товарами и сообщать о выгодных ценах

Mozilla тестирует в Firefox функцию фонового мониторинга сайтов. Браузер сможет самостоятельно следить за ценами, наличием товаров, стартом продаж билетов и другими изменениями, а затем присылать уведомления. Бесконечное обновление страницы можно будет наконец оставить машине, ей всё равно не надоедает.

Новинка стала частью экспериментального ИИ-интерфейса Smart Window и пока скрыта в тестовой сборке Firefox Nightly. Управлять отслеживанием можно через внутреннюю страницу about:smartwindowtasks.

Пользователю нужно выбрать сайт и описать условие для срабатывания уведомления. Firefox будет периодически проверять страницу в фоновом режиме и сообщит, когда обнаружит нужное изменение.

Журналисты Windows Report испытали функцию на странице Apple MacBook Air в магазине Best Buy. Они попросили браузер подать сигнал, если ноутбук подешевеет до суммы менее 1200 долларов. Когда цена опустилась до 1199 долларов, Firefox показал уведомление на рабочем столе и записал результат в историю.

 

Каждое задание можно редактировать, приостанавливать и запускать вручную. Smart Window также показывает последнее состояние отслеживаемой страницы и ведёт журнал срабатываний. Таким образом, Firefox метит на территорию специализированных сервисов наблюдения за ценами и наличием товаров.

Smart Window уже умеет работать с содержимым открытых страниц и вкладок через ИИ-интерфейс. Фоновое наблюдение расширит эту концепцию: браузер будет не только разбираться в увиденном, но и терпеливо ждать нужного момента.

Впрочем, пока праздновать победу над пропущенными скидками рано. Mozilla не сообщила, появится ли функция в стабильной версии Firefox и когда это может произойти.

RSS: Новости на портале Anti-Malware.ru