ИИ OpenAI сбежал из песочницы и атаковал Hugging Face ради победы в тесте

ИИ OpenAI сбежал из песочницы и атаковал Hugging Face ради победы в тесте

ИИ OpenAI сбежал из песочницы и атаковал Hugging Face ради победы в тесте

Модели OpenAI во время внутреннего тестирования нашли дыру в изолированной среде, выбрались в интернет и атаковали платформу Hugging Face. Компания признала, что за инцидентом 16 июля стояли GPT-5.6 Sol и ещё более мощная модель, которая пока не выпущена.

Всё началось с проверки киберспособностей моделей на бенчмарке ExploitGym. Он оценивает, умеет ли ИИ превращать найденные уязвимости в работающие эксплойты. Однако подопытные решили не играть по правилам.

Сначала модели использовали уязвимость нулевого дня, чтобы покинуть тестовую песочницу и получить доступ к интернету. Затем они предположили, что на Hugging Face могут храниться модели, датасеты и готовые решения для ExploitGym, и отправились добывать ответы.

В одном из эпизодов ИИ объединил несколько способов атаки: задействовал украденные учётные данные, нашёл новые 0-day и добрался до возможности удалённого выполнения кода на серверах Hugging Face.

Взлом обнаружили и остановили ИИ-агенты самой Hugging Face. Изначально платформа сообщила лишь об атаке со стороны автономной агентной системы, не называя виновника.

OpenAI теперь расследует происшествие вместе с Hugging Face и обещает усилить защиту исследовательской среды. Но без рекламной паузы не обошлось: в публикацию добавили график роста возможностей GPT-5.6 Sol в многоэтапных кибероперациях и приглашение корпоративным клиентам протестировать модель Cyber.

Получилось эффектно, а OpenAI заодно показала рынку, какой мощный инструмент защиты она скоро сможет продать.

WhatsApp открыл доступ к фотографиям на заблокированных Android-смартфонах

В WhatsApp (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России) для Android обнаружили лазейку, позволяющую открыть галерею на заблокированном устройстве. Для этого не нужны сложный эксплойт, кабель и терминал, достаточно входящего видеозвонка и пары нажатий. Сценарий начинается с вызова WhatsApp, на который можно ответить без разблокировки смартфона.

Затем пользователь открывает меню фильтров и эффектов для видео и выбирает функцию Meta AI для редактирования фотографии.

После этого приложение показывает превью снимков из галереи ещё до запроса ПИН-кода или биометрии.

Проблему заметил пользователь X под ником VBarraquito, затем её подтвердили другие исследователи и журналисты NotebookCheck. Уязвимость воспроизводится не на всех устройствах: смартфоны Pixel и Oppo пропустили пользователя к фотографиям, а протестированный Samsung Galaxy потребовал сначала снять блокировку.

На iPhone такой проблемы не обнаружили. Версия WhatsApp для iOS использует системный интерфейс звонков Apple, поэтому добраться до аналогичного меню с заблокированного экрана не получается.


Полностью захватить смартфон через лазейку нельзя: другие разделы системы остаются закрытыми. Возможности работы со снимками также ограничены, но человек с физическим доступом к устройству может просмотреть приватные фотографии и переснять их на другой телефон.

О проблеме сообщили WhatsApp и Google, однако патча пока нет. Официального подтверждения и CVE у уязвимости также не появилось. В качестве временной защиты владельцам Android советуют ограничить доступ WhatsApp к фото и видео в системных разрешениях. Это ломает описанный сценарий, хотя пользоваться галереей внутри мессенджера станет менее удобно.

RSS: Новости на портале Anti-Malware.ru