Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Исследователям из Иллинойского университета (UIUC) удалось повысить эффективность автономных ИИ-взломщиков, использующих уязвимости нулевого дня, сгруппировав их и распределив роли. Созданный с этой целью многоагентный фреймворк получил имя HPTSA.

Ранее та же команда исследователей доказала, что боты на основе больших языковых моделей (БЯМ, LLM) могут автономно находить уязвимости и эксплуатировать их с успехом до 87%. Кроме того, недавно мы рассказывали об уязвимостях и рисках, связанных с большими языковыми моделями.

Однако, действуя в одиночку, такие взломщики тратят много времени на поиск лазеек и планирование атак; объединив их усилия по методу HPTSA (PDF), можно улучшить производительность в 4,5 раза.

Новый эксперимент был поставлен с использованием таких же ботов — на основе GPT-4. Во главе выстроенной иерархии стоял агент-планировщик, который проверял страницы сайта (реального, но с возможностью эксплойта в сэндбокс-окружении, чтобы пользователи не пострадали) и передавал результат агенту-менеджеру. Этот тимлидер направлял «заказ» нужному исполнителю, и тот уже применял эксплойт.

 

Все ИИ-агенты имели доступ к стимулу-подсказке, инструментам (Microsoft.Playwright для доступа к сайтам, терминал Windows, средства управления файлами) и документам (описания незакрытых уязвимостей, собранные из открытых источников; на самостоятельный поиск был введен запрет).

Для тестирования исследователи создали новый набор из 15 уязвимостей разной степени опасности в opensource-софте. В итоге HPTSA показал результативность до 53%, превзойдя результаты одиночного GPT-4 с доступом к информации о дырах в 1,4 раза, без доступа — в 4,5 раза. Сканеры уязвимостей ZAP и MetaSploit все тесты провалили.

«Уже сейчас ИИ используется как черными, так и белыми хакерами, — комментирует Вадим Матвиенко, руководитель лаборатории исследований кибербезопасности аналитического центра «Газинформсервиса». — Поэтому важно быть готовыми быстро реагировать на новые угрозы. В этой задаче помогают системы выявления аномалий на основе машинного обучения».

Поиск проблемных отзывов в Google Play Store значительно упростили

Google начала разворачивать полезное обновление для Play Store: теперь в магазине приложений можно искать нужную информацию прямо внутри пользовательских отзывов. Нововведение должно заметно упростить жизнь тем, кто не хочет тратить время на установку приложения вслепую.

Раньше, если нужно было понять, например, есть ли у программы проблемы с подпиской, рекламой, уведомлениями или работой после обновления, приходилось вручную листать десятки, а то и сотни комментариев. Теперь для этого появился отдельный поиск.

Работает функция так: нужно открыть страницу приложения, нажать на рейтинг в верхней части экрана и перейти в раздел «Посмотреть все отзывы. Есть и второй путь: прокрутить страницу до блока с отзывами и рейтингами.

Под ИИ-сводкой отзывов там должен появиться значок лупы. После нажатия раздел с отзывами поднимается вверх, и пользователь увидит строку поиска.

 

Дальше всё стандартно: вводите несколько слов, нажимаете поиск на клавиатуре и Play Store показывает отзывы, где встречаются нужные фразы.

Правда, пока функция работает не идеально. Поиск не подбирает результаты «на лету» во время ввода, а ищет только точные совпадения по запросу. Кроме того, поиск, похоже, не работает по одному слову, нужно вводить хотя бы пару. Зато под строкой поиска могут появляться подсказки с популярными темами и жалобами.

Впервые тестирование этой функции заметили ещё в ноябре, но тогда она толком не работала. Теперь Google официально подтвердила, что поиск по отзывам начал распространяться вместе с одной из свежих версий Play Store.

Функция появляется у пользователей версии 50.7.24-31. Если обновление ещё не добралось до устройства, можно попробовать обновить сам магазин вручную: открыть Play Store, нажать на фото профиля, зайти в «Настройки», затем в «О Google Play Store» и выбрать «Обновить Play Store».

RSS: Новости на портале Anti-Malware.ru