Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Исследователям из Иллинойского университета (UIUC) удалось повысить эффективность автономных ИИ-взломщиков, использующих уязвимости нулевого дня, сгруппировав их и распределив роли. Созданный с этой целью многоагентный фреймворк получил имя HPTSA.

Ранее та же команда исследователей доказала, что боты на основе больших языковых моделей (БЯМ, LLM) могут автономно находить уязвимости и эксплуатировать их с успехом до 87%. Кроме того, недавно мы рассказывали об уязвимостях и рисках, связанных с большими языковыми моделями.

Однако, действуя в одиночку, такие взломщики тратят много времени на поиск лазеек и планирование атак; объединив их усилия по методу HPTSA (PDF), можно улучшить производительность в 4,5 раза.

Новый эксперимент был поставлен с использованием таких же ботов — на основе GPT-4. Во главе выстроенной иерархии стоял агент-планировщик, который проверял страницы сайта (реального, но с возможностью эксплойта в сэндбокс-окружении, чтобы пользователи не пострадали) и передавал результат агенту-менеджеру. Этот тимлидер направлял «заказ» нужному исполнителю, и тот уже применял эксплойт.

 

Все ИИ-агенты имели доступ к стимулу-подсказке, инструментам (Microsoft.Playwright для доступа к сайтам, терминал Windows, средства управления файлами) и документам (описания незакрытых уязвимостей, собранные из открытых источников; на самостоятельный поиск был введен запрет).

Для тестирования исследователи создали новый набор из 15 уязвимостей разной степени опасности в opensource-софте. В итоге HPTSA показал результативность до 53%, превзойдя результаты одиночного GPT-4 с доступом к информации о дырах в 1,4 раза, без доступа — в 4,5 раза. Сканеры уязвимостей ZAP и MetaSploit все тесты провалили.

«Уже сейчас ИИ используется как черными, так и белыми хакерами, — комментирует Вадим Матвиенко, руководитель лаборатории исследований кибербезопасности аналитического центра «Газинформсервиса». — Поэтому важно быть готовыми быстро реагировать на новые угрозы. В этой задаче помогают системы выявления аномалий на основе машинного обучения».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

PT NAD помог Ортиксу выявить уязвимости и нарушения в сети

Компания «Ортикс», управляющая сетью из 59 ортопедических салонов по всей стране, внедрила систему анализа трафика PT Network Attack Discovery (PT NAD) от Positive Technologies. Решение было выбрано после успешного пилотного тестирования, в ходе которого служба информационной безопасности выявила несколько инцидентов и уязвимостей в сети.

«Ортикс» ежегодно обслуживает более 100 тысяч клиентов, и защита персональных данных — одна из приоритетных задач. На фоне роста числа кибератак компания решила усилить контроль за трафиком и происходящим в сети.

«Нам было важно видеть, что именно происходит внутри — какой трафик идёт, какие угрозы могут появиться, и в каком виде. Нужно было всё это отслеживать в реальном времени», — говорит Артемий Балеевских, руководитель АСУП в «Ортиксе».

Внедрение системы проводил партнёр Positive Technologies — компания «Экстрим безопасность». Интегратор адаптировал систему под инфраструктуру «Ортикса» и настроил визуализацию угроз с разбивкой по уровням опасности.

После тестирования специалисты представили отчёт с перечнем выявленных проблем. Среди них:

  • использование запрещённого софта на рабочих станциях;
  • слабые (словарные) пароли у пользователей;
  • наличие уязвимости, которая могла привести к взлому критически важной системы;
  • флуд-атака на внутреннюю инфраструктуру;
  • активность майнера криптовалюты и ботнета, использовавшего ресурсы компании для спама.

После анализа результатов пилотного проекта «Ортикс» решил оставить PT NAD в качестве постоянного решения. В компании отметили, что помимо внешних угроз система также помогла выявить нарушения политик безопасности внутри сети. В будущем планируется дополнительно внедрить систему класса NGFW (межсетевой экран нового поколения) и связать её с PT NAD для повышения общей защищённости.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru