GPT-4 может автономно эксплойтить уязвимости 1-day с успехом до 87%

GPT-4 может автономно эксплойтить уязвимости 1-day с успехом до 87%

GPT-4 может автономно эксплойтить уязвимости 1-day с успехом до 87%

Проведенное в Иллинойсском университете (UIUC) исследование показало, что GPT-4 в комбинации со средствами автоматизации способен эксплуатировать уязвимости одного дня (раскрытые, но без патча), читая их описания. Успех при этом может достигать 87%.

В комментарии для The Register один из соавторов исследования отметил, что подобный ИИ-помощник по пентесту обойдется в $8,8 за эксплойт — почти в три раза дешевле, чем стоят полчаса работы специалиста.

Рабочий агент на основе GPT-4 был создан (PDF) с использованием фреймворка LangChain (с модулем автоматизации ReAct). Код состоит из 91 строки и 1056 токенов для подсказок-стимулов (компания OpenAI попросила их не публиковать, и они предоставляются по запросу).

 

Тестирование проводилось на 15 простых уязвимостях сайтов, контейнеров, Python-пакетов; более половины из них оценены как критические или очень опасные. В двух случаях GPT-4 потерпел неудачу: с CVE-2024-25640 (XSS в платформе для совместной работы Iris) и с CVE-2023-51653 (RCE в системе мониторинга Hertzbeat). Интерфейс Iris оказался слишком сложным для навигации, а разбор дыры в Hertzbeat был выполнен на китайском языке (испытуемый агент понимал только английский).

Примечательно, что, изучая описания уязвимостей, ИИ-инструмент ходил по ссылкам за дополнительной информацией. Данных об 11 целях в ходе обучения ему не предоставили, и по ним эффективность оказалась несколько ниже — 82%. А блокировка доступа к информационным бюллетеням сократила успех до 7%.

Для сравнения университетские исследователи протестировали GPT-3.5, большие языковые модели (БЯМ, LLM) с открытым исходным кодом, в том числе популярную Llama, а также сканеры уязвимостей ZAP и Metasploit. Все они показали нулевой результат. Испытания Anthropic Claude 3 и Google Gemini 1.5 Pro, основных конкурентов GPT-4 на рынке коммерческих LLM-решений, пришлось отложить за отсутствием доступа.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

ИИ YouTube снова блокирует взрослых, решив, что им нет 18 лет

YouTube разворачивает вторую волну ограничений по возрасту, вызвав бурю негодования среди пользователей. Напомним, летом платформа запустила в США систему определения возраста на базе ИИ. Сначала она работала относительно спокойно, но к сентябрю начала массово отмечать пользователей как несовершеннолетних.

Казалось бы, благородная цель — защитить детей от «взрослого контента». Но вот беда — система ошибается и блокирует взрослых пользователей, решив, что им нет 18.

Тем, кто «проскочил» первую волну, расслабляться рано. По сообщениям пользователей на площадке Reddit, новая волна фильтрации идёт полным ходом.

«Мы изменили некоторые ваши настройки. Не смогли подтвердить, что вы взрослый», — такое уведомление теперь встречают тысячи пользователей.

Чтобы вернуть доступ ко всем видео, YouTube предлагает подтвердить возраст документом, либо согласиться на ограниченный режим — без части контента, без персонализированной рекламы и с навязчивыми советами про цифровое благополучие.

 

Историй об ошибках — масса. Один пользователь написал:

«Мне 18, но YouTube думает, что я ребёнок, потому что аккаунт создали родители после моего рождения!»

Другой добавил:

«Сегодня мой канал пометили как “до 18”, хотя мне 21, и я вообще не заходил туда с марта».

Выбор у «заблокированных» невелик:

  • смириться с ограничениями;
  • отправить свои паспортные данные YouTube;
  • завести новый аккаунт и начать всё заново.

Помимо урезанного доступа к видео, YouTube автоматически включает «детские» настройки:

  • только деперсонализированная реклама,
  • активированные по умолчанию инструменты цифрового благополучия,
  • постоянные напоминания о конфиденциальности,
  • минимизация рекомендаций контента, который может «влиять на восприятие».

Пока пользователи спорят, оправданны ли такие меры, очевидно одно: YouTube пытается быть ответственным родителем, но ИИ пока слишком подозрителен.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru