Hugging Face отзывает токены доступа к ИИ-проектам из-за взлома Spaces

Hugging Face отзывает токены доступа к ИИ-проектам из-за взлома Spaces

Hugging Face отзывает токены доступа к ИИ-проектам из-за взлома Spaces

На прошлой неделе безопасники Hugging Face выявили факт несанкционированного доступа к цифровым ID ряда пользователей Spaces. Поскольку секреты включали токены авторизации для совместной работы над ИИ-проектами, эти пропуска было решено отозвать.

Платформа Spaces предоставляет возможность создания, хранения и расшаривания приложений, использующих ИИ-технологии и алгоритмы машинного обучения. Затронутым юзерам уже разосланы имейл-уведомления об инциденте.

«Рекомендуем обновить все ключи и токены и использовать тонкую настройку доступа, которая теперь включена по умолчанию», — сказано в блог-записи Hugging Face.

В компании запущено расследование с привлечением сторонних экспертов, правоохранительные органы поставлены в известность об утечке. Приняты меры по усилению защиты инфраструктуры Spaces, создана служба управления ключами, которая будет отслеживать утечки токенов и автоматом прекращать их действие.

Токены доступа к репозиториям на чтение и запись планируется в скором времени отменить. Останутся лишь токены с тонкой настройкой, так как они позволяют ограничить доступ целевой моделью или набором данных, не расшаривая остальные ресурсы автора проекта.

В комментарии для TechCrunch представитель компании отметил, что последние пару месяцев они фиксируют рост числа атак на свои сети. Не исключено, что это связано с ростом популярности инструментов Hugging Face и расширением использования ИИ-технологий, в том числе со злым умыслом.

Подпишитесь на новости

Apple ужесточит доступ приложений в macOS из-за распространения ИИ-агентов

Apple меняет системные разрешения в macOS, которые открывают приложениям широкий доступ к данным на яблочных устройствах. Поводом стали ИИ-агенты: они работают прямо на компьютере, управляют файлами и программами от имени пользователя, и им часто выдают полный доступ к диску.

Изменения появятся в macOS 27.3, сейчас они доступны во второй бета-версии. Подробности Apple опубликовала на сайте для разработчиков.

Раздел «Управление устройством и доступ к данным» разделят на две настройки: System & App Protection Override, которая отключает встроенную защиту системы и приложений, и Accessibility для вспомогательных технологий.

Разрешение будет выдаваться одним способом: пользователь выбирает нужное приложение из списка. Apple советует давать право на отключение защиты только тем программам, которым оно действительно нужно, а полный доступ к диску ограничивать конкретными папками.

Приложение можно будет настроить так, чтобы оно спрашивало разрешение при каждом обращении. Когда одна программа управляет другой, система покажет специальный индикатор.

Выданные раньше разрешения продолжат действовать. Разработчикам Apple рекомендует обновить сценарии первого запуска и научить приложения работать с ограниченным доступом.

Программы для резервного копирования и вспомогательные технологии смогут получить специальные разрешения, чтобы новые пользователи не заметили разницы.

В октябре Apple пообещала пересмотреть настройки безопасности после двух случаев. Журналист рассказал, что приложение Muse от Meta (корпорация Meta признана экстремистской и запрещена в России) получило доступ к его личным сообщениям без разрешения, а Wired сообщил об уязвимости ChatGPT для macOS, через которую злоумышленники могли добраться до конфиденциальных данных.

RSS: Новости на портале Anti-Malware.ru