СёрчИнформ объявила о коммерческом релизе модуля профайлинга

СёрчИнформ объявила о коммерческом релизе модуля профайлинга

СёрчИнформ объявила о коммерческом релизе модуля профайлинга

Компания «СёрчИнформ», российский разработчик инструментов защиты бизнеса от утечек данных и действий инсайдеров, объявила о выпуске нового модуля «КИБ СерчИнформ ProfileCenter». Это компонент DLP-системы, который выполняет функции по составлению психологического портрета пользователя и прогнозирования его поведения.

Автоматизация и интеграция возможностей профайлинга в DLP-систему «Контур информационной безопасности СерчИнформ» позволит использовать преимущества методики без привлечения сторонних специалистов-профайлеров.

«В центре информационной безопасности сегодня по-прежнему остается человек – с его индивидуальными чертами характера, переменчивым поведением и скрытыми мотивами. Для обеспечения безопасности важно смоделировать риск, предвидеть поведение человека в той или иной ситуации — и предупредить нарушение, — комментирует председатель совета директоров «СёрчИнформ» Лев Матвеев. — Привлекать и тем более держать в штате профайлеров для постоянной оценки рисков, связанных с персоналом, по карману только крупным компаниям. Поэтому мы автоматизировали профайлинг, чтобы помочь ИБ-специалистам работать на опережение».

«КИБ СерчИнформ ProfileCenter» вычисляет базовые ценности, убеждения и склонности пользователя на основании анализа текста по более чем 70 критериям. Результаты анализа отображаются в отчете с пояснениями и рекомендациями в соответствии с психологическим типом личности.

Блок рекомендаций подскажет, на что обращать внимание в поведении сотрудника; насколько безопасно давать сотруднику доступ к конфиденциальной информации, финансовым активам и ценным ресурсам компании; подходит или нет сотрудник на ту или иную должность и т. д.

«Мы поставили перед собой сложную, амбициозную задачу — разработать алгоритм, который максимально автоматизирует профилирование и прогнозирование поведения пользователя на основе данных, собранных DLP-системой. В итоге мы получили удобный рабочий инструмент, который качественно и без привлечения внимания оценивает риски, связанные с каждым пользователем. По мере развития мы планируем дополнить модуль ProfileCenter другими инструментами профайлинга», — отмечает научный руководитель направления профайлинга «СёрчИнформ» Алексей Филатов.

Презентация первого в России автоматизированного модуля профайлинга в составе DLP-системы состоялась осенью 2017 году во время серии практических конференций Road Show SearchInform.

Исследователи взломали защиту Apple Intelligence через инъекцию промпта

Исследователи рассказали о недавно пропатченной уязвимости в Apple Intelligence, которая позволяла обходить встроенные ограничения и заставлять локальную языковую модель выполнять действия по сценарию атакующего.

Подробности атаки описаны сразу в двух публикациях. По словам авторов исследования, им удалось объединить две техники атаки и через инъекцию промпта добиться выполнения вредоносных инструкций на устройстве.

Как объясняют специалисты, запрос пользователя сначала проходит через входной фильтр, который должен отсекать опасный контент. Если всё выглядит безопасно, запрос отправляется в саму модель, а затем уже готовый ответ проверяет выходной фильтр. Если система замечает что-то подозрительное, вызов API просто завершается с ошибкой.

Чтобы обойти эту схему, исследователи собрали эксплойт из двух частей. Сначала они использовали строку с вредоносным содержимым в перевёрнутом виде и добавляли Unicode-символ RIGHT-TO-LEFT OVERRIDE. За счёт этого на экране текст отображался нормально, а вот в «сыром» виде для фильтров оставался перевёрнутым. Это помогало пройти проверку на входе и выходе.

 

Второй частью цепочки стала техника Neural Exec. По сути, это способ подменить или переопределить исходные инструкции модели так, чтобы она начала следовать уже командам атакующего, а не базовым системным ограничениям.

В итоге первая техника позволяла обмануть фильтры, а вторая — заставляла модель вести себя не так, как задумано. Для проверки исследователи прогнали 100 случайных сценариев, комбинируя системные промпты, вредоносные строки и внешне безобидные тексты, например фрагменты из статей Wikipedia. В этих тестах успешность атаки составила 76%.

О проблеме Apple уведомили ещё в октябре 2025 года. С тех пор компания усилила защитные механизмы, а патчи вошли в состав iOS 26.4 и macOS 26.4.

RSS: Новости на портале Anti-Malware.ru