Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Екатерина Быстрова 10 Июня 2024 - 18:53

...

Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Исследователям из Иллинойского университета (UIUC) удалось повысить эффективность автономных ИИ-взломщиков, использующих уязвимости нулевого дня, сгруппировав их и распределив роли. Созданный с этой целью многоагентный фреймворк получил имя HPTSA.

Ранее та же команда исследователей доказала, что боты на основе больших языковых моделей (БЯМ, LLM) могут автономно находить уязвимости и эксплуатировать их с успехом до 87%. Кроме того, недавно мы рассказывали об уязвимостях и рисках, связанных с большими языковыми моделями.

Однако, действуя в одиночку, такие взломщики тратят много времени на поиск лазеек и планирование атак; объединив их усилия по методу HPTSA (PDF), можно улучшить производительность в 4,5 раза.

Новый эксперимент был поставлен с использованием таких же ботов — на основе GPT-4. Во главе выстроенной иерархии стоял агент-планировщик, который проверял страницы сайта (реального, но с возможностью эксплойта в сэндбокс-окружении, чтобы пользователи не пострадали) и передавал результат агенту-менеджеру. Этот тимлидер направлял «заказ» нужному исполнителю, и тот уже применял эксплойт.

Все ИИ-агенты имели доступ к стимулу-подсказке, инструментам (Microsoft.Playwright для доступа к сайтам, терминал Windows, средства управления файлами) и документам (описания незакрытых уязвимостей, собранные из открытых источников; на самостоятельный поиск был введен запрет).

Для тестирования исследователи создали новый набор из 15 уязвимостей разной степени опасности в opensource-софте. В итоге HPTSA показал результативность до 53%, превзойдя результаты одиночного GPT-4 с доступом к информации о дырах в 1,4 раза, без доступа — в 4,5 раза. Сканеры уязвимостей ZAP и MetaSploit все тесты провалили.

«Уже сейчас ИИ используется как черными, так и белыми хакерами, — комментирует Вадим Матвиенко, руководитель лаборатории исследований кибербезопасности аналитического центра «Газинформсервиса». — Поэтому важно быть готовыми быстро реагировать на новые угрозы. В этой задаче помогают системы выявления аномалий на основе машинного обучения».

Следующая главная новость »

Итоги 2025 в ИБ: анализ рынка, тенденции и прогнозы в эфире AM Live. Регистрируйтесь по этой ссылке »

Екатерина Быстрова 19 Декабря 2025 - 21:25

iOS Уязвимости программ Домашние пользователи Корпорации Apple

Apple фактически вынуждает пользователей iPhone обновляться до iOS 26

На прошлой неделе Apple выпустила iOS 26.2 с важными патчами. Одновременно Apple формально выкатила и iOS 18.7.3 — для тех, кто по разным причинам не хочет или не может переходить на новую версию системы. Но, как выяснилось, на практике всё работает не так гладко.

Журналист Six Colors Джейсон Снелл обратил внимание, что часть владельцев iPhone вообще не видит обновление iOS 18.7.3. Вместо него система настойчиво предлагает сразу установить iOS 26.2 — без альтернатив.

Проблема касается пользователей, которые:

сознательно остались на iOS 18,
при этом используют iPhone, способный работать с iOS 26 (например, iPhone 11 и новее).

Для них в разделе «Обновление ПО» доступен только апдейт до iOS 26.2. Обновление iOS 18.7.3, которое закрывает те же самые уязвимости WebKit (в том числе используемые в реальных атаках), просто не появляется.

Фактически это выглядит так, будто Apple ставит пользователей перед выбором: либо обновляться на iOS 26, либо оставаться на старой версии системы без актуальных патчей.

Многие сознательно не спешат с крупными обновлениями. Причины могут быть разными:

не нравится новый дизайн (привет, Liquid Glass),
есть опасения за совместимость приложений,
банальное желание «переждать» первые месяцы после релиза.

Как справедливо отмечает Снелл, таким пользователям не должно приходиться выбирать между безопасностью и обновлением на систему, к которой они не готовы.

Временное решение всё-таки нашли. Некоторые пользователи сообщают, что:

нужно записаться в публичную бета-программу Apple,
выбрать ветку iOS 18,
после этого система предлагает установить iOS 18.7.3.

Правда, выглядит это странно: подключаться к бета-программе ради обычных патчей — так себе компромисс.

Интересно, что официальная страница Apple с описанием апдейтов указывает iOS 18.7.3 как доступную только для устройств, которые не поддерживают iOS 26. Это наводит на мысль, что либо: