Balabit выпустила Blindspotter

Balabit представил продукт для поиска аномалий в поведении пользователей

Balabit представил продукт для поиска аномалий в поведении пользователей

Венгерская компания Balabit объявила о выпуске нового продукта Blindspotter, который предназначен для выявления аномалий в поведении пользователей. Предполагается, что эти аномалии вызваны либо деятельностью вредоносного ПО, либо перехватом идентификационной информации - в любом случае целью этой деятельности является детектирование неизвестных, а, возможно, и целенаправленных атак.

Blindspotter - это программный комплекс, который может получать информацию из различных источников: коллектора системных журналов Syslog-NG или построенного на его основе программно-аппаратного комплекса Syslog-NG Store Box, аналитических инструментов SIEM, модулей аутентификации пользователей или каталогов LDAP. Продукт впервые был представлен на выставке InfoSecurity в Лондоне в прошлом году, а сейчас стал доступен для коммерческого заказа в том числе и в России.

Система оценивает такие параметры пользовательской активности как время подключения, адреса доступа, скорость работы с клавиатурой, параметры операционной системы, используемые серверы и приложения, производительность. В частности, если человек слишком быстро набирает ответы или ему требуется очень мало времени на анализ информации, то у системы может возникнуть подозрение, что работает программный робот. Эти параметры анализируются и визуализируются для того, чтобы администраторы безопасности могли выявились и расследовать аномальное поведение пользователей, такое как запуск необычных для них программ или вход в систему в необычное время. В частности, с помощью Blindspotter можно определить момент, когда под именем одного пользователя в системе авторизовался другой, когда легальный пользователь начал злоупотреблять полномочиями и собирать сведения для организации их утечки, или когда легальный системный администратор случайно запустил вредоносный скрипт. Причём, продукт фиксирует такие события в реальном времени и сообщает о их обнаружении администратору безопасности.

По словам Питера Джанджоши, менеджера Balabit по Blindspotter, этот продукт задумывался как средство управления различного типа операционными рисками. То есть теоретически его можно использовать для выявления подозрительного поведения клиентов, для чего достаточно получать сведения из специализированных приложений, таких как CRM или службы технической поддержки. В результате, можно будет выявлять различные виды мошенничества со стороны клиентов и оценивать риск проведения несанкционированных операций. Продукт позволяет разрешать постепенные, но не опасные отклонения в поведении, а вот сильные и опасные - блокировать. "Если вы не можете определить насколько опасны действия пользователей, то лучше поставить для них пониженный приоритет," - рекомендует Питер Джонджоши.

По его словам Blindspotter будет развиваться как платформа для построения решения управления рисками. Со временем планируется предложить партнёрам разработать модули взаимодействия с продуктом, которые как раз и позволили бы добавлять в систему сведения из различных приложений. API не будет открытым, но партнёры смогут получить к нему доступ и реализовать взаимодействие со своими продуктами. Прежде всего такой продукт может быть востребован в финансовой индустрии или для обеспечения непрерывности бизнеса, то есть в тех компаниях, которые сильно зависят от работоспособности ИТ-системы и имеют много пользователей.

Интимные записи с умных очков Meta попадают на проверку модераторам в Кении

Пользователи умных очков Meta (корпорация признана экстремистской и запрещена в России) в Европе могут даже не догадываться, что их видео (в том числе весьма личного характера) просматривают модераторы за пределами ЕС. Речь идёт об очках Ray-Ban Meta и других моделях с ИИ-функциями.

Об этом сообщает шведское издание Svenska Dagbladet. Устройства позволяют записывать видео «от первого лица» и задавать вопросы ассистенту Meta AI. Но чтобы пользоваться ИИ, пользователь должен согласиться с условиями сервиса, а они допускают проверку собранных данных людьми.

По данным журналистов, часть такой «разметки» данных выполняют сотрудники в Кении. Работники, занимающиеся аннотацией контента для обучения ИИ, рассказали, что видели в материалах пользователей обнажённых людей, сцены интимного характера, а также кадры из ванных комнат и туалетов. Кроме того, в записях встречались номера банковских карт и другая финансовая информация.

Meta использует такие проверки для обучения своих языковых и визуальных моделей: людям нужно вручную помечать изображения и видео, чтобы ИИ лучше понимал контекст.

Однако подобная практика может вызывать вопросы с точки зрения европейского законодательства о защите данных (GDPR), которое требует прозрачности в обработке персональной информации.

Как отмечает издание, разобраться в том, как именно обрабатываются данные с носимых устройств, оказалось не так просто, журналистам пришлось специально искать соответствующую политику конфиденциальности.

В ней говорится, что контент может проверяться как автоматическими системами, так и людьми. При этом пользователям рекомендуют самим не делиться конфиденциальной информацией.

Meta напрямую комментировать публикацию не стала, ограничившись заявлением, что при использовании функций Live AI данные обрабатываются в соответствии с условиями сервиса и политикой конфиденциальности.

История в очередной раз поднимает вопрос: где проходит граница между удобством ИИ-функций и приватностью. Особенно когда камера и ассистент буквально находятся у пользователя на лице.

RSS: Новости на портале Anti-Malware.ru