ИИ OpenAI сбежал из песочницы и атаковал Hugging Face ради победы в тесте

ИИ OpenAI сбежал из песочницы и атаковал Hugging Face ради победы в тесте

ИИ OpenAI сбежал из песочницы и атаковал Hugging Face ради победы в тесте

Модели OpenAI во время внутреннего тестирования нашли дыру в изолированной среде, выбрались в интернет и атаковали платформу Hugging Face. Компания признала, что за инцидентом 16 июля стояли GPT-5.6 Sol и ещё более мощная модель, которая пока не выпущена.

Всё началось с проверки киберспособностей моделей на бенчмарке ExploitGym. Он оценивает, умеет ли ИИ превращать найденные уязвимости в работающие эксплойты. Однако подопытные решили не играть по правилам.

Сначала модели использовали уязвимость нулевого дня, чтобы покинуть тестовую песочницу и получить доступ к интернету. Затем они предположили, что на Hugging Face могут храниться модели, датасеты и готовые решения для ExploitGym, и отправились добывать ответы.

В одном из эпизодов ИИ объединил несколько способов атаки: задействовал украденные учётные данные, нашёл новые 0-day и добрался до возможности удалённого выполнения кода на серверах Hugging Face.

Взлом обнаружили и остановили ИИ-агенты самой Hugging Face. Изначально платформа сообщила лишь об атаке со стороны автономной агентной системы, не называя виновника.

OpenAI теперь расследует происшествие вместе с Hugging Face и обещает усилить защиту исследовательской среды. Но без рекламной паузы не обошлось: в публикацию добавили график роста возможностей GPT-5.6 Sol в многоэтапных кибероперациях и приглашение корпоративным клиентам протестировать модель Cyber.

Получилось эффектно, а OpenAI заодно показала рынку, какой мощный инструмент защиты она скоро сможет продать.

Касперская: ИИ не уволит программистов, а заставит их работать по-другому

Искусственный интеллект не оставит айтишников без работы, он лишь перекроит их обязанности. Таким мнением в интервью ТАСС поделилась президент InfoWatch и глава ассоциации «Отечественный софт» Наталья Касперская.

По её словам, генеративные модели способны ошибаться и галлюцинировать, поэтому оставить их без человеческого присмотра не получится.

Программисты будут меньше писать код вручную и больше ставить задачи ИИ, разбивать их на части и проверять результат. Вокруг нейросетей уже возникает целая «обвязка» из специалистов, которые ими управляют.

«Специальности мутируют», — резюмировала Касперская.

Массовые увольнения разработчиков из-за ИИ она считает неэффективными. Некоторые американские компании, по её данным, уже возвращают сокращённых сотрудников после падения качества и роста числа ошибок.

Работы айтишникам добавит и растущий зоопарк российских ИТ-решений. Раньше разработчикам хватало поддержки Windows и иногда Linux, а теперь продукты приходится адаптировать сразу к нескольким операционным системам и их версиям.

Одновременно расходятся российский и зарубежный технологические стеки, поэтому экспортёрам приходится поддерживать фактически две разные экосистемы.

При этом нынешнего зарплатного разгона в ИТ Касперская не ждёт: в 2026 году доходы специалистов могут вырасти примерно на 5%. Пока средняя зарплата программиста, по её словам, вдвое выше заработка квалифицированного рабочего.

Касперская также призвала не зацикливаться на больших языковых моделях. Они дороги, а Россия в этом сегменте пока не входит в число лидеров. Гораздо полезнее развивать прикладной ИИ для распознавания объектов, компьютерного зрения, защиты информации и военных задач.

В общем, нейросети не заберут работу у программистов. Но желающих просто писать код и не проверять за машиной они вполне могут отправить на профессиональную перепрошивку.

RSS: Новости на портале Anti-Malware.ru