Hugging Face отзывает токены доступа к ИИ-проектам из-за взлома Spaces

Hugging Face отзывает токены доступа к ИИ-проектам из-за взлома Spaces

Hugging Face отзывает токены доступа к ИИ-проектам из-за взлома Spaces

На прошлой неделе безопасники Hugging Face выявили факт несанкционированного доступа к цифровым ID ряда пользователей Spaces. Поскольку секреты включали токены авторизации для совместной работы над ИИ-проектами, эти пропуска было решено отозвать.

Платформа Spaces предоставляет возможность создания, хранения и расшаривания приложений, использующих ИИ-технологии и алгоритмы машинного обучения. Затронутым юзерам уже разосланы имейл-уведомления об инциденте.

«Рекомендуем обновить все ключи и токены и использовать тонкую настройку доступа, которая теперь включена по умолчанию», — сказано в блог-записи Hugging Face.

В компании запущено расследование с привлечением сторонних экспертов, правоохранительные органы поставлены в известность об утечке. Приняты меры по усилению защиты инфраструктуры Spaces, создана служба управления ключами, которая будет отслеживать утечки токенов и автоматом прекращать их действие.

Токены доступа к репозиториям на чтение и запись планируется в скором времени отменить. Останутся лишь токены с тонкой настройкой, так как они позволяют ограничить доступ целевой моделью или набором данных, не расшаривая остальные ресурсы автора проекта.

В комментарии для TechCrunch представитель компании отметил, что последние пару месяцев они фиксируют рост числа атак на свои сети. Не исключено, что это связано с ростом популярности инструментов Hugging Face и расширением использования ИИ-технологий, в том числе со злым умыслом.

Android-приложения для психического здоровья сливают ваши данные

Популярные мобильные приложения для психического здоровья с миллионами установок в Google Play Store оказались небезопасными. Исследователи из компании Oversecured обнаружили в десяти таких приложениях в общей сложности 1 575 уязвимостей, степень риска которых варьируется от низкой до высокой.

Речь идёт о трекерах настроения, сервисах для управления депрессией и тревожностью, онлайн-терапии и даже чат-ботах, которые позиционируются как «виртуальные психологи».

Некоторые из них имеют более 10 млн загрузок. В одном из приложений специалисты нашли свыше 85 уязвимостей средней и высокой степени опасности.

Критических проблем выявлено не было, но даже обнаруженные баги могут привести к утечке логинов, подмене уведомлений, HTML-инъекциям или раскрытию местоположения пользователя. В отдельных случаях злоумышленник теоретически может получить доступ к данным о «сеансах терапии».

Особую тревогу вызывает характер обрабатываемой информации. Такие приложения хранят конфиденциальные данные: записи сессий, заметки по когнитивно-поведенческой терапии, трекеры настроения, сведения о приёме лекарств и даже маркеры самоповреждений.

По словам основателя Oversecured Сергея Тошина, на теневых форумах терапевтические записи могут стоить $1000 и более за один профиль. Это значительно дороже, чем данные банковских карт.

Среди типичных проблем присутствует некорректная обработка пользовательских URI, что в одном случае позволяло открыть внутренние компоненты приложения, не предназначенные для внешнего доступа. Если такие компоненты работают с токенами аутентификации и сессионными данными, это потенциально открывает путь к чужим записям терапии.

В других приложениях данные хранились локально таким образом, что к ним могли получить доступ другие программы на устройстве. Также исследователи нашли конфигурационные данные в открытом виде, включая URL баз данных Firebase и API-эндпоинты.

Некоторые разработчики использовали небезопасный класс java.util.Random для генерации токенов или ключей шифрования, а большинство приложений не имели даже базовой защиты от работы на рутированных устройствах.

Шесть из десяти проверенных приложений не содержали уязвимостей высокой степени риска, однако имели проблемы средней важности, которые в целом ослабляют защиту.

RSS: Новости на портале Anti-Malware.ru