Hugging Face отзывает токены доступа к ИИ-проектам из-за взлома Spaces

Hugging Face отзывает токены доступа к ИИ-проектам из-за взлома Spaces

Hugging Face отзывает токены доступа к ИИ-проектам из-за взлома Spaces

На прошлой неделе безопасники Hugging Face выявили факт несанкционированного доступа к цифровым ID ряда пользователей Spaces. Поскольку секреты включали токены авторизации для совместной работы над ИИ-проектами, эти пропуска было решено отозвать.

Платформа Spaces предоставляет возможность создания, хранения и расшаривания приложений, использующих ИИ-технологии и алгоритмы машинного обучения. Затронутым юзерам уже разосланы имейл-уведомления об инциденте.

«Рекомендуем обновить все ключи и токены и использовать тонкую настройку доступа, которая теперь включена по умолчанию», — сказано в блог-записи Hugging Face.

В компании запущено расследование с привлечением сторонних экспертов, правоохранительные органы поставлены в известность об утечке. Приняты меры по усилению защиты инфраструктуры Spaces, создана служба управления ключами, которая будет отслеживать утечки токенов и автоматом прекращать их действие.

Токены доступа к репозиториям на чтение и запись планируется в скором времени отменить. Останутся лишь токены с тонкой настройкой, так как они позволяют ограничить доступ целевой моделью или набором данных, не расшаривая остальные ресурсы автора проекта.

В комментарии для TechCrunch представитель компании отметил, что последние пару месяцев они фиксируют рост числа атак на свои сети. Не исключено, что это связано с ростом популярности инструментов Hugging Face и расширением использования ИИ-технологий, в том числе со злым умыслом.

В России разработали бесплатный детектор для поиска дипфейков

Компания «Архитех ИИ» разработала инструмент KodikScan для проверки цифрового контента на признаки генерации или обработки с помощью искусственного интеллекта. Сервис будет доступен бесплатно и рассчитан на пользователей, журналистов, блогеров и редакции, которым нужно быстро понять, насколько материал похож на фейк.

KodikScan умеет анализировать изображения, видео, аудио и текст. Система ищет скрытые признаки ИИ-генерации: визуальные паттерны, структуру шума, динамику кадров в видео, особенности голоса в аудио и статистические закономерности в тексте.

После этого инструмент оценивает вероятность того, что контент был создан или изменён нейросетью.

По словам разработчика ИИ-среды Kodik Рафаэля Гильмурахманова, сервис задумывался как инструмент для цифровой гигиены. Он отметил, что фейковый контент всё чаще используют в мошеннических схемах: например, злоумышленники могут присылать «кружочки» или видеосообщения якобы от знакомых с просьбой перейти по ссылке или перевести деньги.

Для обычных пользователей такая проверка может стать способом не повестись на подделку. Для СМИ и авторов пабликов — дополнительным фильтром перед публикацией спорных материалов. Особенно это актуально на фоне обсуждения инициатив по превентивной блокировке резонансных дипфейков до проверки их достоверности.

Разработчики также планируют предоставить KodikScan журналистам российских СМИ для тестирования в рабочих задачах. Воспользоваться сервисом может любой желающий на сайте scan.kodik.ru: достаточно загрузить файл и получить оценку вероятности применения ИИ.

По данным «Архитех ИИ», на тестах инструмент определял признаки генерации искусственным интеллектом с точностью 98,03%. При этом, как и с любыми подобными системами, результат стоит воспринимать не как окончательный приговор, а как подсказку: если сервис видит признаки ИИ, материал точно стоит проверить внимательнее.

RSS: Новости на портале Anti-Malware.ru