Сбер разработал комплексную модель угроз для ИИ

Сбер разработал комплексную модель угроз для ИИ

Сбер разработал комплексную модель угроз для ИИ

Эксперты Сбера разработали модель угроз для искусственного интеллекта (включая генеративный ИИ), охватывающую все этапы жизненного цикла таких систем — от подготовки данных до интеграции в приложения.

Документ опубликован на портале киберграмотности Сбера «Кибрарий». Он не привязан к конкретной отрасли и предназначен для оценки потенциальных уязвимостей, адаптации защитных механизмов и минимизации рисков.

В исследовании описаны 70 угроз, связанных с применением как предиктивных, так и генеративных моделей ИИ. Особое внимание уделено рискам, возникающим при использовании генеративных систем, чье распространение стремительно растёт. Для каждой угрозы определены затрагиваемые свойства информации — конфиденциальность, целостность и доступность, а также объекты воздействия, будь то обучающие датасеты или модели с открытым исходным кодом. Модель включает схему взаимодействия таких объектов и их детальное описание.

«Сбер активно применяет технологии искусственного интеллекта в бизнес-процессах и глубоко понимает возникающие угрозы. В ответ на эти вызовы мы создали первую в России модель киберугроз, охватывающую весь спектр рисков, связанных с разработкой и использованием ИИ. Этот документ позволит организациям любой сферы — от финансов до госструктур и промышленности — системно оценивать уязвимости, настраивать защитные меры и снижать возможные потери», — отметил вице-президент Сбера по кибербезопасности Сергей Лебедь.

Ключевые риски при использовании ИИ — это принятие ошибочных решений и утечки данных, использованных при обучении моделей. Кроме того, ИИ активно используют киберпреступные группировки в своих целях.

Минцифры привяжет M2M сим-карты к устройствам и запретит им лишние звонки

Минцифры предложило обязать российские компании и ИП регистрировать M2M сим-карты и подключённое к ним оборудование в ЕСИА. Новые правила планируют запустить 1 сентября 2027 года. Банкоматы, терминалы, датчики и умные счётчики получат цифровые паспорта, а переставлять их сим-карты куда вздумается уже не выйдет.

Операторы смогут предоставить бизнесу единую платформу для управления M2M-номерами.

Через неё разрешат активировать и отключать сим-карты, проверять статус оборудования, определять его местоположение по базовым станциям и блокировать связь при утере или поломке устройства.

В ЕСИА потребуется внести номер, ИНН владельца, сведения об операторе, вид и название оборудования, его идентификатор и адрес установки. Передавать данные можно будет через «Госуслуги» или операторскую платформу.

Одну M2M сим-карту намерены жёстко привязать к конкретному устройству. Менять его идентификатор разрешат не чаще раза в месяц, кроме случаев поломки или утери. Если сведения об оборудовании разойдутся с данными ЕСИА, оператор должен будет приостановить обслуживание. Сначала исправьте цифровые бумаги, потом снова выходите в сеть.

Под контроль попадут и коммуникации. Компании смогут создавать белые списки номеров для звонков и СМС. Голосовые вызовы ограничат одной минутой, а массовые рассылки и автообзвон запретят, за исключением разрешённых отправителей. Менять контакты в белом списке также позволят не чаще раза в месяц.

В Минцифры объясняют инициативу борьбой с мошенниками. Сейчас M2M сим-карты позволяют пользоваться обычной мобильной связью, поэтому их применяют для анонимных обзвонов и рассылок. Ведомство хочет оставить таким картам их прямую работу: передавать данные из банкомата или счётчика, а не изображать подпольный кол-центр.

RSS: Новости на портале Anti-Malware.ru