InfoWatch Prediction 2.3 может отслеживать рабочую переписку на смартфонах

InfoWatch Prediction 2.3 может отслеживать рабочую переписку на смартфонах

InfoWatch Prediction 2.3 может отслеживать рабочую переписку на смартфонах

InfoWatch выпустила новую версию UBA-системы InfoWatch Prediction. Разработчики расширили использование технологий искусственного интеллекта. Основная цель — предоставить предиктивный анализ данных о поведении сотрудников и бизнес-процессах компании, что позволяет предотвратить до 70% киберинцидентов.

Новая система способна обнаруживать даже малейшие отклонения в поведении сотрудников, которые часто предшествуют опасным действиям. Разработчики утверждают, что это свойство системы можно сравнить с интуицией опытного специалиста по безопасности, но в то же время она может обрабатывать данные о больших коллективах (от 500 человек), что невозможно для одного сотрудника.

InfoWatch Prediction использует более 230 поведенческих параметров и автоматически создает список рисков, отсортированный по критичности, на которые следует обратить внимание. Кроме того, система предоставляет рейтинг подозрительных сотрудников, позволяя выявить специалистов с наиболее аномальным поведением. Ежедневно система анализирует около 500 событий, чтобы обеспечить точность этого рейтинга.

Новая версия Prediction 2.3 также позволяет обнаруживать аномальную активность сотрудников в корпоративной почте, включая как использование рабочих станций, так и личных устройств. Если поведение сотрудника изменилось, например, он начал чаще просматривать документы на мобильном телефоне или скачивать их на личное устройство, то система Prediction 2.3 отмечает это как аномалию, которую следует учесть службе безопасности.

Разработчики также улучшили пользовательский интерфейс системы. Всплывающие подсказки, появляющиеся при наведении курсора на рейтинг конкретного сотрудника, делают интерфейс более удобным. Во всплывающем окне показывается распределение рисков по группам, таким как «подготовка к увольнению» или «аномальный вывод информации», включая их процентное соотношение, а также список из пяти наиболее значимых паттернов подозрительного поведения конкретного сотрудника.

Например, это может быть увеличение числа опозданий на работу, увеличение неактивности в рабочее время, отправка резюме в другие компании и т. д. Также разработчик ввели цветовую дифференциацию аномалий согласно их уровню в виджете динамики, где низкий уровень отмечен зеленым цветом, средний — желтым, а высокий — красным. Это позволяет ИБ-командам легче идентифицировать аномальное поведение с высоким риском в условиях ограниченного времени.

Кроме того, была проведена оптимизация вычислительных процессов, что снизило требования к аппаратному обеспечению на 40%.

Claude вырвался в интернет и атаковал три компании. Anthropic винит стенд

Модели Claude во время испытаний выбрались из изолированной среды, вышли в открытый интернет и получили несанкционированный доступ к инфраструктуре трёх организаций. Anthropic признала инциденты, но считает, что проблема была скорее в дырявом тестовом стенде, чем в самом ИИ.

Компания изучила 141 006 запусков Claude и нашла три подозрительных эпизода.

Все они произошли во время CTF-тестов партнёра: модели должны были искать флаги в учебной среде, которая якобы не имела доступа к интернету. На деле выход наружу был открыт.

В одном случае Claude атаковал настоящий домен, который организаторы по ошибке сочли вымышленным. Модель использовала простые методы — слабые пароли и незащищённые точки доступа — и продолжала выполнять поставленную задачу.

Другой эпизод получился куда эффектнее. Claude нашёл инструкцию, предлагавшую установить несуществующий Python-пакет из PyPI, создал вредоносный пакет с нужным названием и опубликовал его в реальном репозитории. Он оставался доступен около часа, за это время его скачали и запустили на 15 системах.

Anthropic подчёркивает, что модель не пыталась специально сбежать или похитить саму себя. Старый Opus 4.7 просто продолжил атаку, несмотря на признаки выхода в интернет. Mythos 5 заметил неладное, но убедил себя, что всё ещё находится в симуляции. Более новая исследовательская модель при аналогичных сомнениях остановилась.

Компания пообещала усилить контроль тестовой инфраструктуры и заявила, что защитные механизмы коммерческих версий Claude заблокировали бы такое поведение. По версии Anthropic, это операционный сбой, а не провал выравнивания моделей.

Напомним, похожая история недавно произошла с Hugging Face и моделями OpenAI: GPT-5.6 Sol сбежал из песочницы и атаковал Hugging Face ради победы в тесте.

RSS: Новости на портале Anti-Malware.ru