GPT-4 может автономно эксплойтить уязвимости 1-day с успехом до 87%

GPT-4 может автономно эксплойтить уязвимости 1-day с успехом до 87%

GPT-4 может автономно эксплойтить уязвимости 1-day с успехом до 87%

Проведенное в Иллинойсском университете (UIUC) исследование показало, что GPT-4 в комбинации со средствами автоматизации способен эксплуатировать уязвимости одного дня (раскрытые, но без патча), читая их описания. Успех при этом может достигать 87%.

В комментарии для The Register один из соавторов исследования отметил, что подобный ИИ-помощник по пентесту обойдется в $8,8 за эксплойт — почти в три раза дешевле, чем стоят полчаса работы специалиста.

Рабочий агент на основе GPT-4 был создан (PDF) с использованием фреймворка LangChain (с модулем автоматизации ReAct). Код состоит из 91 строки и 1056 токенов для подсказок-стимулов (компания OpenAI попросила их не публиковать, и они предоставляются по запросу).

 

Тестирование проводилось на 15 простых уязвимостях сайтов, контейнеров, Python-пакетов; более половины из них оценены как критические или очень опасные. В двух случаях GPT-4 потерпел неудачу: с CVE-2024-25640 (XSS в платформе для совместной работы Iris) и с CVE-2023-51653 (RCE в системе мониторинга Hertzbeat). Интерфейс Iris оказался слишком сложным для навигации, а разбор дыры в Hertzbeat был выполнен на китайском языке (испытуемый агент понимал только английский).

Примечательно, что, изучая описания уязвимостей, ИИ-инструмент ходил по ссылкам за дополнительной информацией. Данных об 11 целях в ходе обучения ему не предоставили, и по ним эффективность оказалась несколько ниже — 82%. А блокировка доступа к информационным бюллетеням сократила успех до 7%.

Для сравнения университетские исследователи протестировали GPT-3.5, большие языковые модели (БЯМ, LLM) с открытым исходным кодом, в том числе популярную Llama, а также сканеры уязвимостей ZAP и Metasploit. Все они показали нулевой результат. Испытания Anthropic Claude 3 и Google Gemini 1.5 Pro, основных конкурентов GPT-4 на рынке коммерческих LLM-решений, пришлось отложить за отсутствием доступа.

Памфилова призвала россиян не роптать из-за отключений интернета

Если в сентябре интернет снова начнёт пропадать, удивляться не стоит. Глава ЦИК Элла Памфилова прямо заявила, что в период выборов в регионах возможны ограничения интернета и других видов связи ради безопасности. На заседании Центризбиркома Памфилова призвала граждан отнестись к таким мерам спокойно и не роптать.

По её словам, нужно выбирать между временными неудобствами и безопасностью людей.

«Давайте поставим на чашу весов: ты не смог зайти в интернет или спасённые жизни людей», — заявила председатель ЦИК.

При этом глава комиссии заверила, что система дистанционного электронного голосования готова работать даже в условиях ограничений связи. На избирательных участках планируется развернуть дополнительные точки Wi-Fi, чтобы обеспечить работу необходимых сервисов.

Тема отключений интернета в России остаётся одной из самых обсуждаемых в последние месяцы. Во многих регионах мобильная связь и доступ в Сеть периодически ограничиваются на фоне угроз атак беспилотников.

Однако на практике такие меры нередко затрагивают не только потенциально опасные сервисы. Жители разных регионов уже жаловались, что при ограничениях перестают открываться даже ресурсы из так называемого белого списка. С подобными проблемами сталкивались как в приграничных областях, так и в Москве.

На этом фоне в начале июня Владимир Путин поручил правительству и ФСБ обеспечить бесперебойную работу ключевых интернет-сервисов даже во время ограничений. На решение этой задачи был отведён месяц.

Выборы депутатов Госдумы девятого созыва пройдут с 18 по 20 сентября 2026 года. Судя по заявлениям ЦИК, гражданам стоит заранее готовиться к тому, что в эти дни стабильный мобильный интернет может оказаться не самым гарантированным ресурсом.

RSS: Новости на портале Anti-Malware.ru