GitHub будет удалять коды эксплойтов, используемых в реальных атаках

GitHub будет удалять коды эксплойтов, используемых в реальных атаках

GitHub будет удалять коды эксплойтов, используемых в реальных атаках

Правила сообщества GitHub претерпели некоторые изменения, коснувшиеся публикации кодов демонстрационных эксплойтов (PoC, proof-of-concept). Теперь площадка будет более внимательно относиться к используемым в реальных атаках уязвимостям.

Кстати, уже можно разобрать новую политику на примере. Нгуен Чжан в марте загрузил на GitHub PoC-эксплойт, использующий печально известную связку уязвимостей ProxyLogon в Microsoft Exchange.

Вскоре после этого Чжан получил от GitHub электронное письмо, уведомляющее об удалении кода в связи с нарушением правил использования площадки. Представители GitHub заявили, что PoC-код необходимо было убрать, чтобы защитить серверы Microsoft Exchange от реальных кибератак, в ходе которых злоумышленники эксплуатировали вышеназванную связку брешей.

«Мы понимаем, что публикация демонстрационного эксплойта преследует безобидные цели, помогающие сообществу специалистов по кибербезопасности изучать способы эксплуатации. Однако наша задача — сохранить баланс между пользой и откровенным вредом от публикации proof-of-concept», — отметили в GitHub.

Тем не менее, учитывая даже такое доходчивое объяснение, GitHub столкнулся с недовольством экспертов, обвинивших площадку в излишней лояльности к Microsoft, чей продукт и был затронут уязвимостями. Напомним, что Microsoft выкупила GitHub.

После этого сервис объявил о запрете репозиториев, созданных для размещения вредоносных программ и потенциально выступающих в роли командных серверов (C2) в кампаниях злоумышленников. Загружать эксплойты при этом всё ещё дозволяется, однако они должны содержать новую информацию для исследователей в области кибербезопасности.

Помимо этого, в GitHub пообещали реагировать на обратную связь и постоянно совершенствовать правила использования сервиса.

Подпишитесь на новости

PT Application Firewall получил защиту от атак на LLM

Корпоративному ИИ-ассистенту доверили документы, клиентские данные и доступ к системам. Теперь осталось проследить, чтобы командовать им не начал первый встречный. Positive Technologies разработала LLM Firewall — модуль защиты ИИ-сервисов в составе PT Application Firewall.

По словам компании, он проверяет запросы к языковым моделям и их ответы: ищет попытки обойти ограничения, вытащить системные инструкции, раскрыть конфиденциальную информацию или использовать возможности агента в интересах атакующего.

Одна из целей — противодействие инъекциям в промпт. Вредоносную инструкцию можно отправить боту напрямую или спрятать в документе, который тот обрабатывает. Внешне это обычный текст, а по замыслу — попытка назначить нейросети нового начальника.

Подозрительные обращения модуль позволяет блокировать либо фиксировать для последующего разбора. Отдельно заявлено обнаружение персональных данных, паролей, ключей доступа, а также токсичного и запрещённого контента.

Проверка работает в обе стороны: контролируется и то, что отправляют модели, и то, что она выдаёт пользователю. Секреты могут утечь не только из-за хитрого атакующего, но и благодаря очень старательному сотруднику.

LLM Firewall уже интегрирован в PT AF Cloud. Он подключается к обмену между приложением и моделью через API, совместимый с OpenAI Chat Completions и Responses. Отдельная консоль управления не требуется. В PT AF PRO для развёртывания внутри инфраструктуры заказчика модуль обещают добавить позднее.

Для разных ИИ-сервисов можно задавать свои политики, выбирать мониторинг или блокировку, отдельно настраивать проверку запросов и ответов. События поступают в PT AF для анализа и расследования.

RSS: Новости на портале Anti-Malware.ru