38% крупных компаний делают свой ИИ, но защищать его умеют единицы

38% крупных компаний делают свой ИИ, но защищать его умеют единицы

38% крупных компаний делают свой ИИ, но защищать его умеют единицы

Российский бизнес всё активнее развивает собственные ИИ-сервисы, однако с их безопасностью дела обстоят заметно хуже. К такому выводу пришли эксперты К2 Кибербезопасность и «Лаборатории Касперского», опросившие специалистов более чем из 200 крупных компаний из сфер ИТ, финансов, телекоммуникаций, торговли, строительства и фармацевтики.

Исследование показало, что 38% крупных организаций уже имеют собственные команды, разрабатывающие ИИ-решения для внутренних процессов.

При этом в 75% случаев такие проекты полностью или частично не соответствуют практикам MLSecOps — подходу, который отвечает за безопасность систем искусственного интеллекта на всех этапах их жизненного цикла.

В целом компании не делают ставку на какой-то один инструмент. Более половины респондентов (59%) одновременно используют несколько типов ИИ-сервисов: отечественные и зарубежные решения, собственные разработки и продукты, созданные на заказ.

Наиболее востребованными остаются российские ИИ-сервисы — их используют 75% компаний. Зарубежные решения применяют 60% участников исследования. Такой расклад аналитики связывают с требованиями законодательства и политикой импортозамещения.

Однако внедрять ИИ бизнес научился быстрее, чем обеспечивать его безопасность. По данным исследования, лишь 18% компаний могут говорить о наличии управляемых процессов защиты собственных ИИ-разработок. Зрелые практики MLSecOps внедрены всего у 7% организаций.

Особенно тревожно выглядит другая цифра: в 60% случаев безопасность ИИ-проектов обеспечивают исключительно разработчики, без участия специалистов по информационной безопасности. Это увеличивает риск ошибок, утечек данных и появления новых уязвимостей.

Эксперты отмечают, что рынок MLSecOps пока только формируется, а многие компании ещё не понимают, как правильно защищать собственные ИИ-системы. При этом искусственный интеллект всё чаще становится частью критически важных бизнес-процессов, а значит цена ошибок будет только расти.

84% российских мобильных приложений оказались уязвимыми из-за ИИ

Согласно ежегодному исследованию AppSec Solutions за 2025 год, уязвимости критического и высокого уровня обнаружены в 84% мобильных приложений российских разработчиков. Всего специалисты выявили 48,8 тыс. уязвимостей — на 63% больше, чем в 2024 году. Одной из основных причин ухудшения ситуации авторы исследования назвали расширение практики использования искусственного интеллекта (ИИ) для генерации кода.

Данные исследования AppSec Solutions оказались в распоряжении «Коммерсанта». В выборку вошли около 1200 Android-приложений, которые тестировались методом «чёрного ящика», без доступа к исходному коду.

Как показало исследование, уязвимости критического и высокого уровня есть у 84% протестированных приложений. Всего таких проблем выявлено около 19 тыс. Общее количество обнаруженных уязвимостей составило 48,8 тыс., что на 63% выше показателя 2024 года. Среди критичных проблем лидирует небезопасное хранение токенов, ключей и пользовательских данных.

Наибольшее количество уязвимостей исследователи обнаружили в категориях «Игры», «Стриминговые платформы», «Финансы», «Приложения для бизнеса» и «СМИ». По данным Роскачества, много проблем также выявлялось в приложениях служб доставки и онлайн-аптек.

В AppSec Solutions отдельно обратили внимание на категорию «Финансы»: за год количество уязвимостей в ней выросло в 10 раз. Это связывают с тем, что банковские приложения всё активнее интегрируют сторонние сервисы, из-за чего увеличивается число зашитых в код бэкдоров и точек небезопасного хранения чувствительных данных. При этом на результаты повлияла и возросшая глубина анализа: специалисты стали фиксировать ошибки, которые раньше могли оставаться незамеченными.

Основным источником проблем авторы исследования назвали широкое использование ИИ для генерации кода. Как прокомментировал изданию руководитель группы защиты инфраструктурных ИТ-решений компании «Газинформсервис» Сергей Полунин, это связано с тем, что нейросетевые инструменты обучаются в том числе на унаследованной базе кода, содержащей ошибки.

В пресс-службе ГК «Солар» отметили, что популярные генеративные модели пропускают до половины ошибок. Ситуацию усугубляет и острая нехватка специалистов в области безопасности приложений.

Руководитель продукта AppSec.Sting компании AppSec Solutions Никита Пинаев не видит поводов для оптимизма:

«Всё больше сторонних SDK и облачных интеграций, всё больше ИИ-сгенерированного кода, тиражирующего небезопасные паттерны хранения чувствительных данных».

По его словам, переломить тенденцию можно только за счёт системных мер: «Безопасное управление секретами и ротация ключей, контроль сторонних компонентов, защита среды исполнения. Выиграют компании, которые встроят эти практики в процесс разработки и будут отличаться от рынка не количеством находок, а скоростью их устранения».

Уязвимости в мобильных приложениях широко используют злоумышленники — прежде всего в атаках, направленных на кражу учётных записей различных сервисов, платных подписок и платёжных данных.

RSS: Новости на портале Anti-Malware.ru