Сбер разработал комплексную модель угроз для ИИ

Сбер разработал комплексную модель угроз для ИИ

Сбер разработал комплексную модель угроз для ИИ

Эксперты Сбера разработали модель угроз для искусственного интеллекта (включая генеративный ИИ), охватывающую все этапы жизненного цикла таких систем — от подготовки данных до интеграции в приложения.

Документ опубликован на портале киберграмотности Сбера «Кибрарий». Он не привязан к конкретной отрасли и предназначен для оценки потенциальных уязвимостей, адаптации защитных механизмов и минимизации рисков.

В исследовании описаны 70 угроз, связанных с применением как предиктивных, так и генеративных моделей ИИ. Особое внимание уделено рискам, возникающим при использовании генеративных систем, чье распространение стремительно растёт. Для каждой угрозы определены затрагиваемые свойства информации — конфиденциальность, целостность и доступность, а также объекты воздействия, будь то обучающие датасеты или модели с открытым исходным кодом. Модель включает схему взаимодействия таких объектов и их детальное описание.

«Сбер активно применяет технологии искусственного интеллекта в бизнес-процессах и глубоко понимает возникающие угрозы. В ответ на эти вызовы мы создали первую в России модель киберугроз, охватывающую весь спектр рисков, связанных с разработкой и использованием ИИ. Этот документ позволит организациям любой сферы — от финансов до госструктур и промышленности — системно оценивать уязвимости, настраивать защитные меры и снижать возможные потери», — отметил вице-президент Сбера по кибербезопасности Сергей Лебедь.

Ключевые риски при использовании ИИ — это принятие ошибочных решений и утечки данных, использованных при обучении моделей. Кроме того, ИИ активно используют киберпреступные группировки в своих целях.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Solar Dozor и МойОфис Документы Онлайн подтвердили совместимость

Компания «МойОфис» и ГК «Солар» подтвердили совместимость своих продуктов в сфере защиты данных, предотвращения утечек информации и корпоративного мошенничества, а также расследования инцидентов информационной безопасности.

В рамках сотрудничества была реализована интеграция сервиса «МойОфис Документы Онлайн» с системой Solar Dozor. Совместное решение усиливает контроль за работой с файлами в облаке и помогает соблюдать корпоративные политики безопасности.

Solar Dozor отслеживает все действия пользователей в «МойОфис Документы Онлайн». DLP-система фиксирует каждое событие: загрузку и конвертацию документов, отправку по электронной почте, изменение прав доступа, создание публичных ссылок. Все действия анализируются на соответствие внутренним политикам организации.

При выявлении нарушений «МойОфис Документы Онлайн» передаёт информацию о событии в Solar Dozor. Это сокращает время реакции системы и позволяет оперативно предотвращать инциденты даже в распределённых инфраструктурах.

«Современные компании хранят и обрабатывают огромные объёмы данных в облаке, и их защита — критически важная задача. Интеграция с "МойОфис Документы Онлайн" позволяет контролировать работу с документами в реальном времени и быстро реагировать на потенциальные утечки. Это особенно актуально для организаций, переходящих на отечественные решения и нуждающихся в надёжной защите информации», — прокомментировала Мария Мозгалева, руководитель продукта Solar Dozor ГК «Солар».

«Мы ответственно подходим к вопросам безопасности и последовательно развиваем защиту наших решений, в том числе через интеграции с внешними системами. Совместимость "МойОфис Документы Онлайн" с Solar Dozor помогает соблюсти строгие требования в области ИБ, при этом клиентам не требуется перестраивать существующие ИТ-процессы», — отметила Татьяна Андреева, менеджер по продукту «Документы Онлайн» компании «МойОфис».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru