Proofpoint обнаружил новый класс корпоративных фишинг-атак

Proofpoint обнаружил новый класс корпоративных фишинг-атак

Proofpoint, американский провайдер облачных защитных решений, предупреждает о появлении разновидности фишинг-атак, которые  успешно обходят традиционные репутационные фильтры  и системы сигнатурного анализа. За полгода эксперты Proofpoint зарегистрировали десятки атак нового типа по всему миру. В компании их называют «longlining» - атаки по типу ярусного лова (применяются при промышленной добыче рыбы ценных пород). Эти фишинг-атаки эффективно сочетают скорость и массовость рассылок с высокой вариативностью контента, что значительно затрудняет их выявление имеющимися средствами.

Proofpoint удалось задокументировать ряд вторжений нового типа. Одна из волн в октябре прошлого года  прошла и в России. В ходе атаки всего за 3 часа было разослано 135 тыс. сообщений в более чем 80 компаний. Злоумышленники использовали свыше 28 тыс.  IP-адресов и более 35 тыс. имен отправителей. Ссылки внутри сообщений вели на десятки скомпрометированных легальных веб-сайтов, куда были предварительно внедрены источники drive-by загрузок и ассоциированных с фишинговыми URL. Из-за разнообразного контента, отправителей и прочего ни в одной из целевых компаний не было обнаружено более 3-х сообщений с одинаковыми характеристиками, поэтому идентифицировать вторжения как целевые атаки не удалось. По данным Proofpoint, на долю данной рассылки в целевых организациях пришлось менее 0,06% совокупного почтового трафика (тогда как спам-реклама составила 19%, письма с вредоносным вложением - 11%).

Эксперты отмечают, что при такой массовости longline-рассылок их эффективность вызывает большую тревогу - свыше 10% вредоносных URL не только прошли все корпоративные фильтры, но и были активированы. А каждый пятый роковой «клик» (19%) был произведен, когда служащий проверял корпоративную почту, находясь за пределами защищенного пространства - из дома, в дороге или с мобильного устройства.

Подпишитесь на новости

PT Application Firewall получил защиту от атак на LLM

Корпоративному ИИ-ассистенту доверили документы, клиентские данные и доступ к системам. Теперь осталось проследить, чтобы командовать им не начал первый встречный. Positive Technologies разработала LLM Firewall — модуль защиты ИИ-сервисов в составе PT Application Firewall.

По словам компании, он проверяет запросы к языковым моделям и их ответы: ищет попытки обойти ограничения, вытащить системные инструкции, раскрыть конфиденциальную информацию или использовать возможности агента в интересах атакующего.

Одна из целей — противодействие инъекциям в промпт. Вредоносную инструкцию можно отправить боту напрямую или спрятать в документе, который тот обрабатывает. Внешне это обычный текст, а по замыслу — попытка назначить нейросети нового начальника.

Подозрительные обращения модуль позволяет блокировать либо фиксировать для последующего разбора. Отдельно заявлено обнаружение персональных данных, паролей, ключей доступа, а также токсичного и запрещённого контента.

Проверка работает в обе стороны: контролируется и то, что отправляют модели, и то, что она выдаёт пользователю. Секреты могут утечь не только из-за хитрого атакующего, но и благодаря очень старательному сотруднику.

LLM Firewall уже интегрирован в PT AF Cloud. Он подключается к обмену между приложением и моделью через API, совместимый с OpenAI Chat Completions и Responses. Отдельная консоль управления не требуется. В PT AF PRO для развёртывания внутри инфраструктуры заказчика модуль обещают добавить позднее.

Для разных ИИ-сервисов можно задавать свои политики, выбирать мониторинг или блокировку, отдельно настраивать проверку запросов и ответов. События поступают в PT AF для анализа и расследования.

RSS: Новости на портале Anti-Malware.ru