Новая версия StaffCop Enterprise может оптически распознавать текст

Новая версия StaffCop Enterprise может оптически распознавать текст

Новая версия StaffCop Enterprise может оптически распознавать текст

Компания ООО «Атом Безопасность» (StaffCop) выпустила новую версию программного комплекса StaffCop Enterprise. Данный комплекс – это надежный инструмент для сбора и анализа действий сотрудников с целью предотвращения утечек информации и повышения эффективности работы персонала.

Новая версия получила встроенную (автономную) систему оптического распознавания текста. Для использования этой функции ранее пользователям приходилось приобретать дополнительные лицензии на системы ОCR. Встраивание этой возможности в базовый функционал позволит автоматически анализировать документы, для которых ранее требовалась обработка в ручном режиме: отсканированные документы, снимки экрана и т.п.  Если у вас уже есть предыдущая версия программы StaffCop Enterprise, вам достаточно загрузить обновление, чтобы воспользоваться новой возможностью.

Если раньше в системе была доступна запись звука с микрофона, то теперь можно записывать звук из колонок, который слышит пользователь. Это позволяет контролировать аудиопереговоры и собирать более полную доказательную базу в случае совершения противоправных действий.

Теперь у сотрудников службы безопасности есть возможность видеть на мониторе несколько рабочих столов пользователей – в новой версии доступен режим «Квадратор», функция, знакомая по видеонаблюдению. Это удобно, например, при наблюдении за группой риска, поскольку дает возможность немедленно перехватить управление на любом из компьютеров. Добавилась возможность скачать записи рабочего стола пользователей в формате mp4 для хранения у службы безопасности.

Усовершенствования коснулись и системы учета рабочего времени. В частности, теперь в ней более точно отображается время работы сотрудников с учетом обеденного перерыва: можно определить любителей пораньше уйти на обед и попозже вернуться.  В целом отчеты об использовании рабочего времени стали более подробными и наглядными.

Обновленная архитектура поддерживает шардирование (разбиение) базы данных на части, что позволяет гибко работать с архивом накопленных данных и управлять им.

Для горизонтального масштабирования системы была реализована система master/slave. Десятки slave-серверов синхронизируются с master-сервером по настройкам, и когда происходит очередная настройка, она автоматически распространяется на всю сеть серверов. Это полезно для многопользовательских распределенных систем.

В веб-интерфейсе сервера добавлена функция удалённой установки\удаления агентов. Теперь для управления удаленными агентами вам потребуется только веб-консоль администратора системы.

Был добавлен новый тип события – «Алерт», который позволит контролировать новые события безопасности в одном месте. Например, появилась возможность отслеживать пользователей, у которых изменился состав оборудования, которые поздно пришли на работу или вообще не пришли.

В новой версии стала более наглядной связь между событиями. Это позволит более полно видеть важные события системы и быстро переходить к ближайшему снимку с экрана в один клик.

Появились новые графики с накоплением, позволяющие лучше агрегировать и визуализировать накопленную информацию. Фактически на одном графике теперь возможно видеть два измерения, например, время, проведенное и интернете с разбивкой по доменам и долей времени, проведенного на каждом домене. Также добавлена возможность выгружать любые данные из системы по произвольным полям в формате MS Excel или CSV. Эти нововведения позволяют наиболее эффективно архивировать важные данные или обмениваться накопленной информацией.

В новой версии у администратора появилась возможность видеть всю собираемую информацию в виде дашбордов (аналитических панелей). Это позволяет на основе заданных фильтров проводить анализ накопленных данных и делать выводы по любому инциденту, по ситуации в целом, либо одним взглядом охватить тенденции поведения пользователей.

Это только основные улучшения и доработки новой версии программного комплекса. Кроме них, на основании отзывов клиентов, улучшена работа имеющихся функций. В целом повысилась точность мониторинга событий, производительность работы системы и стала удобнее работа администратора. Подробнее: https://www.staffcop.ru/sce44 

«Система StaffCop движется в сторону интеграции с другими программами, данные теперь могут выгружаться в любую систему, которыми пользуются специалисты служб безопасности. Новая версия продукта позволяет сотрудникам безопасности меньше отвлекаться на ручные функции и еще лучше контролировать информационные потоки. И, конечно, мы выдерживаем основной наш принцип: «Никаких лишних трат для владельца».  Мы надеемся, что пользователи по достоинству оценят доработки, и, как всегда, готовы учитывать их пожелания», – говорит Д.П. Кандыбович, генеральный директор StaffCop (ООО «Атом Безопасность»).

Новый вектор ProAttack позволяет незаметно внедрять бэкдоры в LLM

Промпт-инжиниринг давно стал нормой при работе с большими языковыми моделями. Но, как выясняется, вместе с удобством он приносит и новую поверхность атаки. Исследователи представили вектор под названием ProAttack, который позволяет внедрять бэкдор в модель через промпты, причём делать это почти незаметно.

В тестах атака показывала эффективность, близкую к 100%, причём без классических красных флагов вроде странных токенов или подмены меток.

В обычных атаках на NLP-модели злоумышленники добавляют в данные подозрительные слова или фразы и меняют метки. Такие вещи уже научились отслеживать. 

ProAttack идёт другим путём. Вместо явных «триггеров» он использует разные промпты для обучающих данных:

  • для части данных (целевая категория) — вредоносный промпт;
  • для остальных — обычный, чистый.

 

При этом сами тексты выглядят нормально, а метки остаются корректными. В итоге модель учится ассоциировать конкретный промпт с нужным злоумышленнику результатом.

А дальше всё просто: на этапе использования достаточно подать вход с этим промптом, и бэкдор срабатывает.

Особенно опасно, что атака остаётся эффективной даже при небольшом количестве данных. В ряде случаев хватало буквально нескольких (около шести) «отравленных» примеров, чтобы внедрить бэкдор.

Метод протестировали на разных задачах, включая даже медицинские сценарии (например, суммаризацию радиологических отчётов). И там он тоже показал высокую эффективность, практически не ухудшая качество работы модели.

Исследователи проверили ProAttack против популярных методов защиты — ONION, SCPD, back-translation и fine-pruning. Ни один из них не смог полностью остановить атаку.

В качестве возможного решения предлагается использовать LoRA (parameter-efficient fine-tuning). Идея в том, что такие методы ограничивают количество параметров, которые модель может менять при дообучении. А значит, ей сложнее запомнить связь между триггером и целевым результатом.

RSS: Новости на портале Anti-Malware.ru