В МГУ разработали систему проверки защищённости ИИ-продуктов

В МГУ разработали систему проверки защищённости ИИ-продуктов

Сотрудники Центра компетенций Национальной технологической инициативы (ЦК НТИ) по большим данным, действующего на базе МГУ, разработали решение для проверки устойчивости ИИ-систем к кибератакам.

Как выяснил RT, платформа предоставляет возможность загрузки моделей машинного обучения в облако, где они в автоматическом режиме проходят тестирование. На выходе пользователь получает не только оценку, но также дообученный вариант, способный исправно работать в условиях различных внешних воздействий и изменений.

Созданное в МГУ решение пригодно для проверки любых систем, построенных на основе нейросетевых языковых моделей. Авторы считают, что их разработка окажется особенно полезной в применении к автопилотам грузовых автомобилей и поездов, системам идентификации по фото, видео, голосу, а также системам распознавания текста в аудиосообщениях: такие ИИ-помощники наиболее часто подвергаются кибератакам.

Команда ЦК НТИ создала прототип сервиса проверки и уже работает с рядом крупных российских клиентов над повышением устойчивости их ИИ-продуктов.

«В последние годы с активным внедрением систем ИИ в повседневную жизнь — например, голосовых банковских помощников, автопилотов, сервисов медицинской диагностики, систем идентификации на транспорте — стало понятно, что тематика устойчивости к атакам скоро станет очень востребована», — отметил Денис Гамаюнов, доцент факультета ВМК МГУ.

По мнению эксперта, в ближайшие годы рынок средств защиты систем ИИ возрастет в несколько раз.

«Безусловно, защита серверов, на которых запущен код ИИ, важна, но злоумышленникам интереснее скорее нарушить, а не прекратить его работу, чтобы тот выдавал некорректные решения, — комментирует Сергей Полунин, руководитель группы защиты инфраструктурных ИТ-решений компании «Газинформсервис». — Например, если хакеры доберутся до обучающей выборки и сумеют добавить в нее свои объекты, то обученная на такой выборке модель будет ошибаться и выдавать неправильные результаты».

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Яндекс Дзен, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Kaspersky Smart: вышла новая линейка решений для защиты среднего бизнеса

«Лаборатория Касперского» выпустила новую линейку, которая получила название Kaspersky Smart. Она построена на базе решений, ранее доступных только крупным компаниям, — SIEM-системы Kaspersky Unified Monitoring and Analysis Platform и продукта для передовой защиты конечных устройств от сложных угроз Kaspersky EDR Expert.

Новая линейка предназначена для компаний среднего бизнеса, которые серьёзно подходят к вопросам борьбы с кибератаками повышенной сложности. Она будет востребована в организациях, где присутствует функция ИБ и реализуется стратегический подход к информационной безопасности, в том числе в государственных и финансовых учреждениях, страховых компаниях, сфере торговли и прочих отраслях.

Ландшафт киберугроз усложняется, средний бизнес также становится мишенью для сложных атак. Кроме того, усиливаются требования регулирующих органов. В ответ на эти вызовы «Лаборатория Касперского» предлагает самую актуальную киберзащиту для инфраструктур среднего размера — от 250 до 1000 рабочих мест и серверов. Линейка Kaspersky Smart включает в себя возможности не только для мониторинга и обнаружения, но и для реагирования, а также помогает соответствовать требованиям регуляторов.

Kaspersky Smart отличает невысокая требовательность к аппаратным ресурсам и возможность развёртывания в виртуальной среде. Компании могут выбрать подходящие им по характеристикам аппаратные или виртуальные мощности. В числе других преимуществ новой линейки — признанные рынком и независимыми аналитиками технологии, отказоустойчивость, готовая интеграция с различными ИТ- и ИБ-системами, единый удобный интерфейс принятия решений, доступность и низкий порог входа.

Оба уровня линейки — Kaspersky Smart I и Kaspersky Smart II — включают в себя SIEM-систему «Лаборатории Касперского». Это позволяет осуществлять комплексный мониторинг и потоковую корреляцию событий ИБ из различных источников данных в режиме реального времени в рамках всей инфраструктуры, а также благодаря централизованному хранению данных предоставлять информацию об инцидентах регулирующим органам. SIEM позволяет контролировать, что происходит в инфраструктуре компании, объединяя все события безопасности, получаемые из разных источников.

Во второй уровень,помимо SIEM, входит флагманское корпоративное решение «Лаборатории Касперского» класса EDR, которое предоставляет необходимую информацию для расследования инцидентов, помогает правильно приоритизировать оповещения об угрозах, сводя к минимуму «шум» от всех уведомлений и предоставляет обширные возможности по реагированию.

Благодаря EDR второй уровень новой линейки позволяет осуществлять автоматическое обнаружение сложных угроз на конечных устройствах — с помощью уникальных IoA-правил. Также в Kaspersky Smart II применяются Yara-правила, гибкий конструктор поисковых запросов для проактивного поиска угроз, обеспечивается полная видимость и анализ первопричин и приоритизация инцидентов. Kaspersky Smart II обеспечивает эффективный кросс-продуктовый сценарий взаимодействия SIEM и EDR — сбор и анализ расширенной телеметрии (отправка в SIEM «сырых» событий, а также готовых обнаружений, релевантных сложным атакам) и возможность проводить действия по реагированию с помощью продвинутых инструментов.

«Компании среднего размера по большей части уже обладают фундаментальной защитой на уровне конечных устройств и задумываются о защите от сложных атак. Востребованность систем анализа и управления ИБ-событиями, а также EDR-решений растёт, поскольку с усложнением ландшафта киберугроз возникает необходимость реагировать на инциденты быстрее, качественнее, с меньшими усилиями. Средний бизнес остро нуждается в комплексных и эффективных решениях для защиты своих бизнес-активов, и мы делаем доступным ему свой комплексный продукт уровня enterprise. Наша новая линейка предоставляет не только наиболее актуальную киберзащиту, но и помогает соответствовать требованиям законодательства», — комментирует Анна Кулашова, управляющий директор «Лаборатории Касперского» в России и странах СНГ.

Более подробно о новой линейке можно прочитать на продуктовой странице.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Яндекс Дзен, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru