64% ИИ-приложений для iPhone оказались с дырой в защите

64% ИИ-приложений для iPhone оказались с дырой в защите

64% ИИ-приложений для iPhone оказались с дырой в защите

Исследователи из Wake Forest University обнаружили масштабную проблему в экосистеме iOS-приложений с искусственным интеллектом. Анализ показал, что сотни программ фактически оставляют открытыми ключи доступа к нейросетям и серверным компонентам, что позволяет злоумышленникам использовать их инфраструктуру в своих целях.

Для исследования специалисты разработали инструмент LLMKeyLens, который анализирует сетевой трафик приложений и выявляет утечки учетных данных, используемых для работы с OpenAI, Gemini, DeepSeek, Mistral и другими ИИ-сервисами.

Из более чем 38 тысяч приложений App Store исследователи отобрали 444 программы с подтверждёнными функциями на базе больших языковых моделей. Результаты оказались неприятными: у 282 приложений, или 64% выборки, были обнаружены утечки ключей доступа или других механизмов подключения к ИИ-сервисам.

 

Причем в 146 случаях проблема позволяла напрямую использовать чужие ресурсы. Некоторые приложения передавали API-ключи OpenAI и других провайдеров в открытом виде прямо в сетевых запросах. Другие скрывали ключи на сервере, но оставляли открытыми прокси-серверы, через которые любой желающий мог отправлять запросы к нейросетям.

Особенно часто проблемы встречались в приложениях для продуктивности, обучения, развлечений, здоровья и образа жизни. Лидером по доле уязвимых программ стала категория Health & Fitness.

Исследователи также обнаружили крайне небрежное отношение к защите токенов доступа. В некоторых случаях JWT-токены действовали годами, а отдельные системы выдавали их со сроком действия до 100 лет. Более того, некоторые серверы принимали даже просроченные токены.

После обнаружения проблем разработчиков всех 282 приложений уведомили об уязвимостях. Через 90 дней специалисты провели повторную проверку. Патчи выпустили только 78 приложений — это около 28% от числа уязвимых программ. Еще 66 приложений остались доступными для эксплуатации даже после уведомления.

Авторы исследования считают, что причина проблемы проста: многие разработчики стремятся максимально быстро интегрировать ИИ-функции и уделяют недостаточно внимания защите инфраструктуры.

Servicepipe выпустила антифрод-систему с цифровым отпечатком пользователя

Российская компания Servicepipe представила новый продукт Digital Fraud Protection, предназначенный для выявления мошеннических действий на сайтах и в мобильных приложениях. Решение анализирует поведение пользователей и технические параметры их устройств, помогая обнаруживать подозрительную активность даже в тех случаях, когда она выглядит как обычная работа легального клиента.

В основе продукта лежит технология формирования цифрового отпечатка браузера. Система собирает и анализирует более 100 различных параметров устройства, браузера и сетевого окружения в ключевых точках пользовательского пути — например, во время авторизации, оплаты или использования промокодов.

По словам разработчиков, такой подход позволяет выявлять злоумышленников даже тогда, когда они меняют IP-адреса, используют VPN, Tor, антидетект-браузеры или регулярно очищают файлы cookie.

Digital Fraud Protection ориентирован на поиск сложных мошеннических сценариев, которые трудно обнаружить стандартными средствами защиты. Среди них — угон учетных записей, создание множества аккаунтов одним пользователем, злоупотребление бонусными программами и мошенничество с онлайн-платежами.

Решение выросло из исследований Лаборатории кибербезопасности Servicepipe, где изучались методы идентификации устройств и выявления аномалий по совокупности технических признаков. Накопленные данные и алгоритмы анализа стали основой отдельного коммерческого продукта.

Интеграция системы выполняется через JavaScript-агент, который встраивается в веб-ресурс. При этом продукт может использоваться как самостоятельный инструмент или как источник дополнительной информации для уже существующих антифрод-систем.

В результате компания получает расширенную аналитику о том, кто именно выполняет то или иное действие на сайте: использует ли пользователь VPN, работает ли через режим инкогнито, связан ли его трафик с хостинговой инфраструктурой, которая ранее использовалась для автоматизированных атак, и другие технические признаки риска.

Наиболее востребованным такое решение может оказаться в финансовом секторе, электронной коммерции, сервисах доставки, маркетплейсах и подписочных платформах — там, где ежедневно проходят тысячи регистраций, авторизаций и платежных операций.

RSS: Новости на портале Anti-Malware.ru