Сбер разработал комплексную модель угроз для ИИ

Сбер разработал комплексную модель угроз для ИИ

Сбер разработал комплексную модель угроз для ИИ

Эксперты Сбера разработали модель угроз для искусственного интеллекта (включая генеративный ИИ), охватывающую все этапы жизненного цикла таких систем — от подготовки данных до интеграции в приложения.

Документ опубликован на портале киберграмотности Сбера «Кибрарий». Он не привязан к конкретной отрасли и предназначен для оценки потенциальных уязвимостей, адаптации защитных механизмов и минимизации рисков.

В исследовании описаны 70 угроз, связанных с применением как предиктивных, так и генеративных моделей ИИ. Особое внимание уделено рискам, возникающим при использовании генеративных систем, чье распространение стремительно растёт. Для каждой угрозы определены затрагиваемые свойства информации — конфиденциальность, целостность и доступность, а также объекты воздействия, будь то обучающие датасеты или модели с открытым исходным кодом. Модель включает схему взаимодействия таких объектов и их детальное описание.

«Сбер активно применяет технологии искусственного интеллекта в бизнес-процессах и глубоко понимает возникающие угрозы. В ответ на эти вызовы мы создали первую в России модель киберугроз, охватывающую весь спектр рисков, связанных с разработкой и использованием ИИ. Этот документ позволит организациям любой сферы — от финансов до госструктур и промышленности — системно оценивать уязвимости, настраивать защитные меры и снижать возможные потери», — отметил вице-президент Сбера по кибербезопасности Сергей Лебедь.

Ключевые риски при использовании ИИ — это принятие ошибочных решений и утечки данных, использованных при обучении моделей. Кроме того, ИИ активно используют киберпреступные группировки в своих целях.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

MaxPatrol EDR 8.1 получил новый интерфейс и расширенную интеграцию

Компания Positive Technologies выпустила новую версию своего решения для защиты конечных устройств от сложных атак — MaxPatrol EDR 8.1. Обновление затронуло интерфейс, инструменты для расследования инцидентов и интеграцию со сторонними системами. Главное изменение — переработанный интерфейс для ручного реагирования на инциденты.

Раньше специалисты SOC использовали несколько отдельных инструментов, теперь все они собраны в одном окне.

Это позволяет быстрее получать данные о процессах и файлах на устройстве и не переключаться между разными утилитами. По оценкам компании, время на выполнение части рабочих задач сократилось примерно втрое.

Появилась и новая функция — возможность отправлять файлы на конечные устройства. Это может быть полезно для доставки скриптов, конфигураций или обновлений прямо во время расследования.

Ещё одно нововведение касается интеграции с другими средствами защиты. Если раньше взаимодействие с ними требовало дополнительных коннекторов, то теперь данные можно передавать напрямую через syslog. Поддерживаются разные форматы, совместимые с сотнями сторонних решений, включая SIEM, SOAR и IRP.

В MaxPatrol EDR 8.1 расширили и правила безопасности: теперь они автоматически применяются в зависимости от сети, к которой подключено устройство. Например, при работе в публичной Wi-Fi-сети активируются более жёсткие параметры защиты, а в корпоративной сети — стандартные.

Отдельно отмечается и оптимизация производительности: новая версия стала немного «легче» для систем — нагрузка снизилась почти на 7% по сравнению с прошлой версией.

В планах у разработчиков — дальнейшее развитие функций цифровой криминалистики и адаптация продукта для разных сред виртуализации.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru