В МГУ разработали систему проверки защищённости ИИ-продуктов

В МГУ разработали систему проверки защищённости ИИ-продуктов

В МГУ разработали систему проверки защищённости ИИ-продуктов

Сотрудники Центра компетенций Национальной технологической инициативы (ЦК НТИ) по большим данным, действующего на базе МГУ, разработали решение для проверки устойчивости ИИ-систем к кибератакам.

Как выяснил RT, платформа предоставляет возможность загрузки моделей машинного обучения в облако, где они в автоматическом режиме проходят тестирование. На выходе пользователь получает не только оценку, но также дообученный вариант, способный исправно работать в условиях различных внешних воздействий и изменений.

Созданное в МГУ решение пригодно для проверки любых систем, построенных на основе нейросетевых языковых моделей. Авторы считают, что их разработка окажется особенно полезной в применении к автопилотам грузовых автомобилей и поездов, системам идентификации по фото, видео, голосу, а также системам распознавания текста в аудиосообщениях: такие ИИ-помощники наиболее часто подвергаются кибератакам.

Команда ЦК НТИ создала прототип сервиса проверки и уже работает с рядом крупных российских клиентов над повышением устойчивости их ИИ-продуктов.

«В последние годы с активным внедрением систем ИИ в повседневную жизнь — например, голосовых банковских помощников, автопилотов, сервисов медицинской диагностики, систем идентификации на транспорте — стало понятно, что тематика устойчивости к атакам скоро станет очень востребована», — отметил Денис Гамаюнов, доцент факультета ВМК МГУ.

По мнению эксперта, в ближайшие годы рынок средств защиты систем ИИ возрастет в несколько раз.

«Безусловно, защита серверов, на которых запущен код ИИ, важна, но злоумышленникам интереснее скорее нарушить, а не прекратить его работу, чтобы тот выдавал некорректные решения, — комментирует Сергей Полунин, руководитель группы защиты инфраструктурных ИТ-решений компании «Газинформсервис». — Например, если хакеры доберутся до обучающей выборки и сумеют добавить в нее свои объекты, то обученная на такой выборке модель будет ошибаться и выдавать неправильные результаты».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Количество кибератак на автомобили в России в 2025 году выросло на 20%

Согласно исследованию АО «ГЛОНАСС» и компании «Технологии безопасности транспорта» (ТБТ), за восемь месяцев 2025 года зафиксировано 328 кибератак на автомобили. Это на 20 больше, чем за аналогичный период 2024 года. О 20-процентном росте в годовом выражении сообщили также в компании «Спикател», однако абсолютные значения там не раскрыли.

Отчёт по исследованию оказался в распоряжении «Ведомостей». Данные собирались из разных источников: как открытых (ИТ-компании, органы власти), так и закрытых — включая результаты bug bounty-программ и информацию из профессиональных сообществ специалистов по ИТ и ИБ.

Анализ показал, что 93% атак совершаются удалённо. В 85% случаев злоумышленники эксплуатируют уязвимости Bluetooth или облачных сервисов. Такие атаки позволяют дистанционно управлять автомобилем или даже угнать его. В числе часто используемых векторов названы системы сенсорного слияния (лидары и радары), технологии SDV (Software Defined Vehicles, программно определяемый функциональность автомобиля) и AV (Autonomous Vehicles, системы автономного вождения).

По словам руководителя направления кибербезопасности транспортных средств АО «ГЛОНАСС» Владимира Педанова, особенно востребованы взломы SDV-сервисов, которые автопроизводители предоставляют за дополнительную плату. Так, Volkswagen, Tesla и John Deere распространяют подобные функции через подписки. Например, инструменты для взлома автопилота John Deere появились всего через месяц после начала его коммерческого распространения.

Взлом технологий автопилота, подчеркнул Педанов, гораздо опаснее, так как напрямую влияет на безопасность движения. Однако исполнительный директор ассоциации «Консорциум предприятий в сфере автомобильных электронных приборов и телематики» Дмитрий Корначев считает, что ущерб от таких атак пока ограничен из-за невысокой зрелости телематических систем.

Главным мотивом злоумышленников становится блокировка систем автомобиля ради вымогательства. При этом сами автопроизводители также могут использовать схожие механизмы против «серых» машин.

Генеральный директор группы компаний ST IT, эксперт рынка TechNet НТИ Антон Аверьянов указал, что перспективным вектором атак остаются внутренние сервисы автопроизводителей, где также выявляются уязвимости. Так, в сентябре 2024 года была обнаружена брешь в инфраструктуре KIA, затронувшая даже автомобили, владельцы которых не подключали KIA Connect. Однако такие случаи редки и быстро устраняются.

Руководитель ИБ-направления «Телеком биржи» Александр Блезнеков назвал системной проблемой крайне низкий уровень защищённости бортовых систем. Во многих автомобилях средства защиты отсутствуют вовсе, что делает их уязвимыми как для удалённых атак через интернет, так и для атак в непосредственной близости к машине.

Как отметил директор департамента расследований T.Hunter Игорь Бедеров, современные автомобили фактически превратились в компьютеры на колёсах. Они оснащены множеством систем, подключённых к интернету через сотовую связь или Wi-Fi, что значительно расширяет поверхность атаки. При этом автопроизводители и их поставщики становятся привлекательными целями для финансово мотивированных злоумышленников.

В то же время подобные угрозы актуальны лишь для относительно небольшой части автопарка. По данным страховых компаний, на которые ссылаются «Ведомости», как минимум 70% автомобилей в России старше 10 лет, и для них киберриски фактически не представляют опасности.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru