Группа компаний InfoWatch на форуме GISEC-2018 в Дубае, ОАЭ, анонсировала выход продукта InfoWatch Prediction в классе UEBA (User and Entity Behavior Analytics). Аналитический инструмент предназначен для автоматизированного решения прикладных задач на основе прогнозирования рисков информационной безопасности, которые связаны с кадровой и финансовой политикой, выявлением инсайдерства, компрометации учетных записей, а также другими критичными с точки зрения управления персоналом процессами в организации. Базовым сценарием в первой версии продукта стало заблаговременное определение системой сотрудников, которые собираются уволиться. Коммерческий релиз решения запланирован на 2018 год.
«Идеология InfoWatch Prediction нацелена на решение конкретных задач в области корпоративной информационной безопасности с возможностью проверки результата, — рассказал Андрей Арефьев, руководитель направления перспективных разработок ГК InfoWatch. — Ключевой особенностью нашего продукта является то, что он построен на строгой математической модели и позволяет предотвращать конкретные риски, а также проверить точность работы решения. Мы предоставляем компании инструмент, который позволяет с высокой точностью заблаговременно определить сотрудников, которые планируют покинуть штат, и тем самым минимизировать сопряженные с этим риски информационной безопасности».
Решение анализирует информационные потоки компании (Big Data) и на основании моделей, построенных с применением методов машинного обучения, вычисляет вероятность увольнения сотрудников компании. InfoWatch Prediction рассчитывает индивидуальный рейтинг каждого сотрудника, который может быть положительным или отрицательным. Положительный рейтинг свидетельствует о том, что человек находится в зоне риска, и чем выше показатель, тем больше вероятность его ухода.
InfoWatch Prediction прошел необходимые испытания в инфраструктуре ряда крупных компаний, ежедневно анализируя десятки тысяч событий. По проведенным промышленным испытаниям точность определения сотрудников, которые собираются уволиться, составила 90%. Помимо этого, продукт позволяет заказчику быстро убедиться в эффективности оценки на основании ретроспективной выборки данных.
«Мы можем продемонстрировать клиенту работоспособность системы почти мгновенно, хотя большинству других продуктов в области информационной безопасности требуются месяцы для сбора доказательств эффективности, и клиент вынужден тратить на это свои ресурсы: оборудование, время, деньги, — сообщил Андрей Арефьев. — Продукту достаточно лишь проанализировать данные, полученные с почтового сервера или DLP-системы в компании за последний год, после чего он определяет уволившихся сотрудников, и у клиента есть возможность сравнить этот результат с реальными данными из отдела кадров».
Для офицера безопасности организации выявление увольняющегося сотрудника позволяет применить специальные настройки политик безопасности, установить дополнительный контроль к его действиям и коммуникациям. Кроме того, решение позволяет не только минимизировать риски ИБ, но и будет полезно для реализации управленческого, финансового и кадрового учета в компании.
По словам Андрея Арефьева, издержки от потери работника для организации равны его годовому окладу. Они складываются из многих факторов: низкой эффективности работы сотрудника, намеревающегося уволиться, различных выплат при его уходе, ресурсов и времени, потраченных на поиск новых кадров, а также их последующую адаптацию, добавил он.
Также в рамках форума GISEC-2018 специалисты InfoWatch представили международный учебный центр цифровых технологий и кибербезопасности для стран Ближнего Востока, который направлен на подготовку и повышение квалификации специалистов в области информационной безопасности, интернета вещей, анализа больших данных, искусственного интеллекта, технологии блокчейн и прочих.
Зафиксирован первый случай злоупотребления ИИ для почти полной (на 80-90%) автоматизации шпионских атак на госструктуры и крупные компании. Суммарно с помощью Claude было атаковано около 30 целей; в нескольких случаях взлом завершился успехом.
Инициатором необычной кампании, по данным Anthropic, являлась китайская APT-группа, идентифицируемая как GTG-1002. Мишени для проведения атак ее участники выбирали сами; их интересовали секреты госсектора, ИТ, финансовой сферы и химической промышленности.
Операторы ИИ-дирижера в ходе каждой многоступенчатой атаки вмешивались лишь 4-6 раз — когда надо было принять стратегическое решение по результатам выполнения задач агентскими Claude.
Эти исполнители определяли площадь атаки, сканировали целевую инфраструктуру в поисках уязвимостей, разрабатывали способы их использования и эксплойт-коды, воровали учетки и проверяли их дееспособность, собирали конфиденциальные данные.
Дискретные задачи ставились компонентам ИИ с тщательной формулировкой промптов и без раскрытия контекста, который бы мог выдать недобрые намерения.
Обнаружив атаки с использованием ее продукта, Anthropic запустила расследование, определила масштабы вредоносных операций и по итогам заблокировала ассоциированные аккаунты, а также уведомила потенциальных жертв и правоохранительные органы.
К счастью, в новой бочке дегтя присутствовала ложка меда: из-за склонности в галлюцинациям ИИ зачастую выдавал желаемое за действительное: рапортовал об успехах (краже актуальных учеток, обнаружении якобы неизвестных ранее уязвимостей), хотя действительность свидетельствовала об обратном.
Подобные ошибки говорят о том, что интеллектуальные помощники не способны самостоятельно проводить хакерские атаки — по крайней мере, на современном этапе развития ИИ.
Подписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.
Свидетельство о регистрации СМИ ЭЛ № ФС 77 - 68398, выдано федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) 27.01.2017 Разрешается частичное использование материалов на других сайтах при наличии ссылки на источник. Использование материалов сайта с полной копией оригинала допускается только с письменного разрешения администрации.