В МГУ разработали систему проверки защищённости ИИ-продуктов

В МГУ разработали систему проверки защищённости ИИ-продуктов

В МГУ разработали систему проверки защищённости ИИ-продуктов

Сотрудники Центра компетенций Национальной технологической инициативы (ЦК НТИ) по большим данным, действующего на базе МГУ, разработали решение для проверки устойчивости ИИ-систем к кибератакам.

Как выяснил RT, платформа предоставляет возможность загрузки моделей машинного обучения в облако, где они в автоматическом режиме проходят тестирование. На выходе пользователь получает не только оценку, но также дообученный вариант, способный исправно работать в условиях различных внешних воздействий и изменений.

Созданное в МГУ решение пригодно для проверки любых систем, построенных на основе нейросетевых языковых моделей. Авторы считают, что их разработка окажется особенно полезной в применении к автопилотам грузовых автомобилей и поездов, системам идентификации по фото, видео, голосу, а также системам распознавания текста в аудиосообщениях: такие ИИ-помощники наиболее часто подвергаются кибератакам.

Команда ЦК НТИ создала прототип сервиса проверки и уже работает с рядом крупных российских клиентов над повышением устойчивости их ИИ-продуктов.

«В последние годы с активным внедрением систем ИИ в повседневную жизнь — например, голосовых банковских помощников, автопилотов, сервисов медицинской диагностики, систем идентификации на транспорте — стало понятно, что тематика устойчивости к атакам скоро станет очень востребована», — отметил Денис Гамаюнов, доцент факультета ВМК МГУ.

По мнению эксперта, в ближайшие годы рынок средств защиты систем ИИ возрастет в несколько раз.

«Безусловно, защита серверов, на которых запущен код ИИ, важна, но злоумышленникам интереснее скорее нарушить, а не прекратить его работу, чтобы тот выдавал некорректные решения, — комментирует Сергей Полунин, руководитель группы защиты инфраструктурных ИТ-решений компании «Газинформсервис». — Например, если хакеры доберутся до обучающей выборки и сумеют добавить в нее свои объекты, то обученная на такой выборке модель будет ошибаться и выдавать неправильные результаты».

Т1 прогнозирует рост облачного рынка до 687 млрд рублей

Объем российского рынка облачных сервисов к 2030 году превысит 687 млрд рублей, увеличившись более чем в три раза по сравнению с 226 млрд рублей в 2025 году. С таким прогнозом выступил ИТ-холдинг Т1.

Среднегодовой темп роста отрасли составит порядка 25%, однако самым стремительным сегментом станет инфраструктура для искусственного интеллекта (GPUaaS), ее показатели будут расти на 36% ежегодно, с 17 млрд рублей в 2025 году до 97 млрд рублей к 2030-му. 

Вслед за ней высокую динамику покажет сегмент платформ как сервиса (PaaS) с темпом 31% и ростом с 43 млрд до 174 млрд рублей, тогда как классический IaaS без GPU сохранит самую большую долю рынка, увеличившись с 166 млрд до 416 млрд рублей.

Отечественный рынок сохраняет гигантский потенциал: уровень проникновения облаков в РФ составляет 28% против 94% в США, а стимулом для развития могут стать потенциальная отмена НДС для SaaS, смещение бюджетов от капитальных затрат к операционным (от CapEx к OpEx), а также ускоренная консолидация, при которой более 70% рынка уже контролируют топ-6 игроков.

Параллельно бизнес усиливает требования к информационной безопасности, суверенным технологиям для КИИ и автономному обслуживанию через единые маркетплейсы услуг по модели «Pay-as-you-go». 

Ключевым же вектором трансформации индустрии становится глубокая адаптация инфраструктуры под запросы конкретных отраслей экономики. Как отмечает Антон Степанов, генеральный директор «Т1 Облако»:

«Мы наблюдаем на рынке, что у каждого клиента из конкретных отраслей есть специфичные требования под ИИ-инфраструктуру. Диверсификация ИИ-приложений под конкретного клиента расширяется. Специфика бизнесов и секторов экономики увеличивает требования конкретики к себе. Дальше потребности и спрос будут увеличиваться, клиенты будут просить что-то конкретное под себя».

По словам Степанова, уже появляются отраслевые облачные сервисы, облачные провайдеры под конкретные отрасли. Он отметил, что первым первыми потребителями этих сервисов уже становится банковская сфера. Затем, прогнозирует эксперт, на рынке будут появляться аналогичные сервисы для сферы медицинских услуг.

RSS: Новости на портале Anti-Malware.ru