Теневой ИИ берут под контроль: СберТех представил Platform V SOWA AI

Теневой ИИ берут под контроль: СберТех представил Platform V SOWA AI

Теневой ИИ берут под контроль: СберТех представил Platform V SOWA AI

На конференции ЦИПР-2026 компания СберТех объявила о запуске Platform V SOWA AI — решения для централизованного управления доступом к системам искусственного интеллекта внутри организаций. Появление подобных инструментов связано с растущей популярностью ИИ-сервисов в корпоративной среде.

Во многих компаниях различные подразделения самостоятельно подключают большие языковые модели и ИИ-инструменты для решения рабочих задач.

В результате возникает так называемый теневой ИИ — набор разрозненных сервисов, использование которых зачастую остается вне поля зрения служб информационной безопасности.

По задумке разработчика, Platform V SOWA AI должна выступать единой точкой доступа ко всем ИИ-сервисам компании. Через платформу проходят запросы сотрудников к большим языковым моделям, а также ответы, которые эти модели формируют.

Система позволяет контролировать права доступа пользователей, отслеживать обращения к ИИ в режиме реального времени и предотвращать передачу конфиденциальной информации во внешние сервисы. Кроме того, платформа ведет аудит взаимодействия с ИИ и поддерживает применение единых корпоративных политик безопасности.

Еще одна задача решения — упростить подключение новых моделей. Вместо отдельной настройки механизмов аутентификации, аудита и контроля для каждого ИИ-сервиса эти функции переносятся на уровень единого инфраструктурного шлюза.

В компании также заявляют о возможности выявления аномальной активности и попыток обхода установленных ограничений при работе с большими языковыми моделями.

Решение ориентировано на крупные организации из различных отраслей, включая финансовый сектор, телекоммуникации, ретейл и промышленность.

Интерес к подобным платформам закономерен: по мере того как искусственный интеллект становится частью повседневных бизнес-процессов, компании все чаще сталкиваются не столько с вопросом внедрения ИИ, сколько с необходимостью управлять его использованием и связанными с ним рисками. Platform V SOWA AI — один из примеров того, как рынок начинает отвечать на этот запрос.

В образовательных приложениях нашли более 1000 опасных уязвимостей

Приложения для изучения языков, электронные дневники и сервисы для репетиторов оказались далеко не такими безопасными, как хотелось бы. Специалисты AppSec Solutions проверили 87 популярных образовательных приложений и обнаружили около 2,5 тысячи уязвимостей. Из них 1065 получили высокий или критический уровень опасности.

По сравнению с прошлым годом ситуация заметно ухудшилась. Общее число найденных проблем выросло на 41%, а количество критических уязвимостей — сразу на 56%. Теперь почти каждая вторая обнаруженная проблема относится к высокой или критической категории риска.

Самая частая находка — конфиденциальные данные, оставленные прямо в коде приложения. Речь идет о паролях, токенах доступа, ключах шифрования и параметрах тестовой среды. Если злоумышленник доберётся до такой информации, под угрозой окажутся не только пользователи, но и серверная инфраструктура самого сервиса.

Не менее опасной оказалась уязвимость ArbitraryActivityStart. Она позволяет обращаться к внутренним экранам приложения в обход обычной логики работы. В результате злоумышленник может получить доступ к закрытым функциям, изменить настройки или создать условия для кражи данных пользователя.

Еще одна распространённая проблема — отсутствие защиты от подключения отладчика. Такой дефект значительно упрощает анализ приложения, помогает изучить его внутреннюю логику и в дальнейшем использовать найденные слабые места для взлома.

Как отмечают исследователи, образовательные сервисы особенно активно используют школьники, студенты и преподаватели, а в период экзаменов нагрузка на такие платформы резко возрастает. При этом многие разработчики до сих пор выпускают обновления без полноценной проверки безопасности и не включают регулярное тестирование в процесс разработки.

В итоге приложения, которые должны помогать получать знания, нередко сами становятся источником рисков — причём как для персональных данных пользователей, так и для инфраструктуры образовательных платформ.

RSS: Новости на портале Anti-Malware.ru