64% ИИ-приложений для iPhone оказались с дырой в защите

64% ИИ-приложений для iPhone оказались с дырой в защите

64% ИИ-приложений для iPhone оказались с дырой в защите

Исследователи из Wake Forest University обнаружили масштабную проблему в экосистеме iOS-приложений с искусственным интеллектом. Анализ показал, что сотни программ фактически оставляют открытыми ключи доступа к нейросетям и серверным компонентам, что позволяет злоумышленникам использовать их инфраструктуру в своих целях.

Для исследования специалисты разработали инструмент LLMKeyLens, который анализирует сетевой трафик приложений и выявляет утечки учетных данных, используемых для работы с OpenAI, Gemini, DeepSeek, Mistral и другими ИИ-сервисами.

Из более чем 38 тысяч приложений App Store исследователи отобрали 444 программы с подтверждёнными функциями на базе больших языковых моделей. Результаты оказались неприятными: у 282 приложений, или 64% выборки, были обнаружены утечки ключей доступа или других механизмов подключения к ИИ-сервисам.

 

Причем в 146 случаях проблема позволяла напрямую использовать чужие ресурсы. Некоторые приложения передавали API-ключи OpenAI и других провайдеров в открытом виде прямо в сетевых запросах. Другие скрывали ключи на сервере, но оставляли открытыми прокси-серверы, через которые любой желающий мог отправлять запросы к нейросетям.

Особенно часто проблемы встречались в приложениях для продуктивности, обучения, развлечений, здоровья и образа жизни. Лидером по доле уязвимых программ стала категория Health & Fitness.

Исследователи также обнаружили крайне небрежное отношение к защите токенов доступа. В некоторых случаях JWT-токены действовали годами, а отдельные системы выдавали их со сроком действия до 100 лет. Более того, некоторые серверы принимали даже просроченные токены.

После обнаружения проблем разработчиков всех 282 приложений уведомили об уязвимостях. Через 90 дней специалисты провели повторную проверку. Патчи выпустили только 78 приложений — это около 28% от числа уязвимых программ. Еще 66 приложений остались доступными для эксплуатации даже после уведомления.

Авторы исследования считают, что причина проблемы проста: многие разработчики стремятся максимально быстро интегрировать ИИ-функции и уделяют недостаточно внимания защите инфраструктуры.

Solar appScreener получил ИИ-триаж и автоматическое исправление уязвимостей

ГК «Солар» выпустила версию 3.16 платформы для безопасной разработки Solar appScreener. Основные изменения коснулись модуля статического анализа кода (SAST): в продукт добавили инструменты на базе ИИ для автоматической проверки результатов сканирования и подготовки исправлений для найденных уязвимостей.

Одним из ключевых нововведений стал ИИ-модуль триажа. Он анализирует результаты SAST-проверок, отсеивает ложные срабатывания и помогает разработчикам сосредоточиться на реальных проблемах безопасности.

По данным компании, модель обучалась на данных программных проектов и показывает точность более 90% при верификации уязвимостей.

Второй компонент — система автоматического исправления уязвимостей (CodeFix). Она предлагает готовые патчи для подтвержденных проблем безопасности, которые разработчик может использовать как основу для доработки кода.

Отдельно в Solar appScreener 3.16 переработали производительность самого SAST-анализатора. Теперь он активнее использует многоядерные процессоры для параллельной обработки файлов, что позволяет ускорить сканирование крупных проектов.

Обновление затронуло и модуль анализа сторонних компонентов (OSA). В нем появились дополнительные механизмы оценки лицензионных рисков и проверки используемых опенсорс-библиотек. Система анализирует не только зависимости проекта, но и информацию об авторах компонентов и возможные ограничения лицензий.

Также разработчики расширили поддержку языков программирования и улучшили инструменты для формирования SBOM-файлов. Для проектов на C и C++ появился анализ исходного кода, а для ряда языков добавлены новые возможности отслеживания потоков данных.

Еще одно изменение связано с требованиями регуляторов. В продукте появилась возможность использовать шкалу критичности уязвимостей в соответствии с классификацией ФСТЭК России, а также поддержка актуальной версии рейтинга OWASP Top 2025.

По данным «Солара», сегодня Solar appScreener используется более чем в 200 организациях, включая банки, ИТ-компании, транспортные и энергетические предприятия. Развитие подобных инструментов происходит на фоне растущего дефицита специалистов по безопасной разработке и увеличения объема программного кода, который необходимо проверять на наличие уязвимостей.

RSS: Новости на портале Anti-Malware.ru