GPT-4 может автономно эксплойтить уязвимости 1-day с успехом до 87%

GPT-4 может автономно эксплойтить уязвимости 1-day с успехом до 87%

GPT-4 может автономно эксплойтить уязвимости 1-day с успехом до 87%

Проведенное в Иллинойсском университете (UIUC) исследование показало, что GPT-4 в комбинации со средствами автоматизации способен эксплуатировать уязвимости одного дня (раскрытые, но без патча), читая их описания. Успех при этом может достигать 87%.

В комментарии для The Register один из соавторов исследования отметил, что подобный ИИ-помощник по пентесту обойдется в $8,8 за эксплойт — почти в три раза дешевле, чем стоят полчаса работы специалиста.

Рабочий агент на основе GPT-4 был создан (PDF) с использованием фреймворка LangChain (с модулем автоматизации ReAct). Код состоит из 91 строки и 1056 токенов для подсказок-стимулов (компания OpenAI попросила их не публиковать, и они предоставляются по запросу).

 

Тестирование проводилось на 15 простых уязвимостях сайтов, контейнеров, Python-пакетов; более половины из них оценены как критические или очень опасные. В двух случаях GPT-4 потерпел неудачу: с CVE-2024-25640 (XSS в платформе для совместной работы Iris) и с CVE-2023-51653 (RCE в системе мониторинга Hertzbeat). Интерфейс Iris оказался слишком сложным для навигации, а разбор дыры в Hertzbeat был выполнен на китайском языке (испытуемый агент понимал только английский).

Примечательно, что, изучая описания уязвимостей, ИИ-инструмент ходил по ссылкам за дополнительной информацией. Данных об 11 целях в ходе обучения ему не предоставили, и по ним эффективность оказалась несколько ниже — 82%. А блокировка доступа к информационным бюллетеням сократила успех до 7%.

Для сравнения университетские исследователи протестировали GPT-3.5, большие языковые модели (БЯМ, LLM) с открытым исходным кодом, в том числе популярную Llama, а также сканеры уязвимостей ZAP и Metasploit. Все они показали нулевой результат. Испытания Anthropic Claude 3 и Google Gemini 1.5 Pro, основных конкурентов GPT-4 на рынке коммерческих LLM-решений, пришлось отложить за отсутствием доступа.

BI.ZONE Mail Security научили подозревать запароленные архивы и спам-клонов

Компания BI.ZONE выпустила Mail Security 3.0 с новыми механизмами обнаружения почтовых угроз и функциями для администраторов. Система стала внимательнее относиться к защищённым паролем архивам, проверять подлинность отправителей и находить массовые рассылки, в которых мошенники слегка меняют текст ради обхода фильтров.

Если содержимое запароленного архива, включая вложенный, невозможно распаковать, система теперь может начислить письму дополнительные баллы риска.

Сам архив при этом не объявляется вредоносным автоматически, но перестаёт пользоваться дипломатической неприкосновенностью только потому, что его содержимое закрыто на замок.

Другой новый метод сравнивает тексты сообщений и выявляет серии почти одинаковых писем. Так BI.ZONE рассчитывает обнаруживать спам-кампании, где злоумышленники переставляют несколько слов и надеются, что фильтр ничего не заметит.

В правилах доставки теперь можно учитывать результаты SPF- и DKIM-проверок. Это помогает отличать легитимных отправителей от тех, кто лишь надел знакомое имя и пришёл за учётными данными. По статистике BI.ZONE, в первом полугодии 2026 года на фишинг пришлось 90% нелегитимного почтового трафика.

Защиту административных аккаунтов усилили механизмом против автоматического перебора паролей. После заданного количества неудачных попыток входа пользователю придётся пройти CAPTCHA.

Администраторам разрешили массово включать, отключать и удалять правила, скачивать быстрые правила группой и выполнять операции сразу над несколькими письмами. В обновлённом журнале сведения о сообщении выводятся в боковой панели, а новый раздел «События» предупреждает о важных изменениях и скором окончании лицензии.

Журнал действий пользователей можно передавать во внешние системы мониторинга и SIEM по Syslog.

RSS: Новости на портале Anti-Malware.ru