Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Банда ИИ-ботов взломала половину тестовых сайтов через эксплойт 0-day

Исследователям из Иллинойского университета (UIUC) удалось повысить эффективность автономных ИИ-взломщиков, использующих уязвимости нулевого дня, сгруппировав их и распределив роли. Созданный с этой целью многоагентный фреймворк получил имя HPTSA.

Ранее та же команда исследователей доказала, что боты на основе больших языковых моделей (БЯМ, LLM) могут автономно находить уязвимости и эксплуатировать их с успехом до 87%. Кроме того, недавно мы рассказывали об уязвимостях и рисках, связанных с большими языковыми моделями.

Однако, действуя в одиночку, такие взломщики тратят много времени на поиск лазеек и планирование атак; объединив их усилия по методу HPTSA (PDF), можно улучшить производительность в 4,5 раза.

Новый эксперимент был поставлен с использованием таких же ботов — на основе GPT-4. Во главе выстроенной иерархии стоял агент-планировщик, который проверял страницы сайта (реального, но с возможностью эксплойта в сэндбокс-окружении, чтобы пользователи не пострадали) и передавал результат агенту-менеджеру. Этот тимлидер направлял «заказ» нужному исполнителю, и тот уже применял эксплойт.

 

Все ИИ-агенты имели доступ к стимулу-подсказке, инструментам (Microsoft.Playwright для доступа к сайтам, терминал Windows, средства управления файлами) и документам (описания незакрытых уязвимостей, собранные из открытых источников; на самостоятельный поиск был введен запрет).

Для тестирования исследователи создали новый набор из 15 уязвимостей разной степени опасности в opensource-софте. В итоге HPTSA показал результативность до 53%, превзойдя результаты одиночного GPT-4 с доступом к информации о дырах в 1,4 раза, без доступа — в 4,5 раза. Сканеры уязвимостей ZAP и MetaSploit все тесты провалили.

«Уже сейчас ИИ используется как черными, так и белыми хакерами, — комментирует Вадим Матвиенко, руководитель лаборатории исследований кибербезопасности аналитического центра «Газинформсервиса». — Поэтому важно быть готовыми быстро реагировать на новые угрозы. В этой задаче помогают системы выявления аномалий на основе машинного обучения».

NGENIX представила аттестованное облако для банков и онлайн-сервисов

Компания NGENIX объявила о запуске нового продукта — «Аттестованного публичного облака». Это облачное решение для защиты публичных веб-ресурсов, построенное на выделенной и дополнительно защищённой инфраструктуре, прошедшей аттестацию по требованиям российских регуляторов и международных стандартов.

Новый сервис ориентирован на организации, для которых критично соблюдение требований по защите персональных и платёжных данных.

В первую очередь речь идёт о финансовом секторе — банках, микрофинансовых организациях, брокерах и страховых компаниях. Для них облако NGENIX может использоваться как часть защищённой ИТ-среды, соответствующей требованиям ГОСТ 57580.1, что упрощает выполнение нормативов ЦБ РФ и снижает затраты на аттестацию собственной инфраструктуры.

Для интернет-магазинов, платных сервисов и других участников платёжной системы «МИР» облако аттестовано по PCI DSS, что является обязательным условием для обработки платёжных данных и взаимодействия с банками-эквайерами.

Кроме того, продукт рассчитан на операторов персональных данных: информационная система облака соответствует требованиям Приказа ФСТЭК №21 (уровень защищённости УЗ-2), что позволяет легально использовать его для защиты веб-ресурсов с персональными данными.

С точки зрения функциональности «Аттестованное публичное облако NGENIX» закрывает сразу несколько задач. В их числе — защита от DDoS-атак на сетевом и прикладном уровнях (L3 и L7), противодействие нелегитимному автоматизированному трафику, обеспечение отказоустойчивости и защиты DNS, а также сглаживание пиков нагрузки за счёт CDN-механизмов.

Инфраструктура решения изначально проектировалась с учётом требований информационной безопасности. Аттестованные мощности размещены в трёх независимых дата-центрах в Москве, а взаимодействие между узлами платформы защищено с использованием ГОСТ-криптографии и сертифицированных ФСБ аппаратных криптошлюзов. В систему безопасности также входят IDS/IPS и централизованный сбор и анализ событий в SIEM. Управление сервисами и доступом осуществляется через клиентский портал NGENIX EdgeSec Multidesk с разграничением прав пользователей.

 

Как отметил генеральный директор NGENIX Константин Чумаченко, запуск аттестованного облака стал ответом на запрос со стороны российских организаций, которым важно сочетать преимущества облачной защиты с формальным соответствием требованиям регуляторов и платёжных систем. По его словам, новый продукт позволяет использовать облачные механизмы защиты веб-ресурсов без необходимости идти на компромиссы с нормативной базой.

RSS: Новости на портале Anti-Malware.ru