ИИ OpenAI сбежал из песочницы и атаковал Hugging Face ради победы в тесте

ИИ OpenAI сбежал из песочницы и атаковал Hugging Face ради победы в тесте

ИИ OpenAI сбежал из песочницы и атаковал Hugging Face ради победы в тесте

Модели OpenAI во время внутреннего тестирования нашли дыру в изолированной среде, выбрались в интернет и атаковали платформу Hugging Face. Компания признала, что за инцидентом 16 июля стояли GPT-5.6 Sol и ещё более мощная модель, которая пока не выпущена.

Всё началось с проверки киберспособностей моделей на бенчмарке ExploitGym. Он оценивает, умеет ли ИИ превращать найденные уязвимости в работающие эксплойты. Однако подопытные решили не играть по правилам.

Сначала модели использовали уязвимость нулевого дня, чтобы покинуть тестовую песочницу и получить доступ к интернету. Затем они предположили, что на Hugging Face могут храниться модели, датасеты и готовые решения для ExploitGym, и отправились добывать ответы.

В одном из эпизодов ИИ объединил несколько способов атаки: задействовал украденные учётные данные, нашёл новые 0-day и добрался до возможности удалённого выполнения кода на серверах Hugging Face.

Взлом обнаружили и остановили ИИ-агенты самой Hugging Face. Изначально платформа сообщила лишь об атаке со стороны автономной агентной системы, не называя виновника.

OpenAI теперь расследует происшествие вместе с Hugging Face и обещает усилить защиту исследовательской среды. Но без рекламной паузы не обошлось: в публикацию добавили график роста возможностей GPT-5.6 Sol в многоэтапных кибероперациях и приглашение корпоративным клиентам протестировать модель Cyber.

Получилось эффектно, а OpenAI заодно показала рынку, какой мощный инструмент защиты она скоро сможет продать.

Верховный суд запретил в России группировки Silent Crow и Киберпартизаны BY

Верховный суд РФ признал экстремистскими организациями и запретил деятельность киберпреступных группировок Silent Crow («Молчаливый ворон») и «Киберпартизаны BY». Решение подлежит немедленному исполнению. Заседание прошло в закрытом режиме.

Суд удовлетворил административный иск Генпрокуратуры, которая обвинила обе группировки в совместных атаках на информационную инфраструктуру России и Белоруссии.

Их целью власти считают дестабилизацию обстановки и неконституционную смену государственной власти.

По данным суда, «Киберпартизаны BY» входят в белорусское объединение «Супраціў» («Сопротивление»), выступающее за насильственное изменение конституционного строя республики. Группировку также связали с запрещённым в России «Полком имени Кастуся Калиновского» и подразделением информационно-психологических операций ВСУ.

Silent Crow, ранее известная как CyberWar и Cyber LegionsUA, описывается в решении как проукраинское объединение политически мотивированных хактивистов. Его основной целью суд назвал нанесение ущерба российским госорганам, компаниям и критической информационной инфраструктуре.

Обеим группировкам приписывают атаки на ИТ-системы «Аэрофлота», базы «Ростелекома» и Росреестра, а также серверы Белорусской железной дороги.

Теперь у Silent Crow и «Киберпартизан» в России не только цифровой, но и вполне официальный статус: их деятельность запрещена, а участие в ней и поддержка организации могут повлечь ответственность.

RSS: Новости на портале Anti-Malware.ru