InfoWatch Prediction 2.3 может отслеживать рабочую переписку на смартфонах

InfoWatch Prediction 2.3 может отслеживать рабочую переписку на смартфонах

InfoWatch Prediction 2.3 может отслеживать рабочую переписку на смартфонах

InfoWatch выпустила новую версию UBA-системы InfoWatch Prediction. Разработчики расширили использование технологий искусственного интеллекта. Основная цель — предоставить предиктивный анализ данных о поведении сотрудников и бизнес-процессах компании, что позволяет предотвратить до 70% киберинцидентов.

Новая система способна обнаруживать даже малейшие отклонения в поведении сотрудников, которые часто предшествуют опасным действиям. Разработчики утверждают, что это свойство системы можно сравнить с интуицией опытного специалиста по безопасности, но в то же время она может обрабатывать данные о больших коллективах (от 500 человек), что невозможно для одного сотрудника.

InfoWatch Prediction использует более 230 поведенческих параметров и автоматически создает список рисков, отсортированный по критичности, на которые следует обратить внимание. Кроме того, система предоставляет рейтинг подозрительных сотрудников, позволяя выявить специалистов с наиболее аномальным поведением. Ежедневно система анализирует около 500 событий, чтобы обеспечить точность этого рейтинга.

Новая версия Prediction 2.3 также позволяет обнаруживать аномальную активность сотрудников в корпоративной почте, включая как использование рабочих станций, так и личных устройств. Если поведение сотрудника изменилось, например, он начал чаще просматривать документы на мобильном телефоне или скачивать их на личное устройство, то система Prediction 2.3 отмечает это как аномалию, которую следует учесть службе безопасности.

Разработчики также улучшили пользовательский интерфейс системы. Всплывающие подсказки, появляющиеся при наведении курсора на рейтинг конкретного сотрудника, делают интерфейс более удобным. Во всплывающем окне показывается распределение рисков по группам, таким как «подготовка к увольнению» или «аномальный вывод информации», включая их процентное соотношение, а также список из пяти наиболее значимых паттернов подозрительного поведения конкретного сотрудника.

Например, это может быть увеличение числа опозданий на работу, увеличение неактивности в рабочее время, отправка резюме в другие компании и т. д. Также разработчик ввели цветовую дифференциацию аномалий согласно их уровню в виджете динамики, где низкий уровень отмечен зеленым цветом, средний — желтым, а высокий — красным. Это позволяет ИБ-командам легче идентифицировать аномальное поведение с высоким риском в условиях ограниченного времени.

Кроме того, была проведена оптимизация вычислительных процессов, что снизило требования к аппаратному обеспечению на 40%.

ИИ OpenAI полез на GitHub за утёкшими ключами, а затем выдумал данные

Модели OpenAI оказались очень изобретательными, когда привычные способы выполнить задачу переставали работать. Они искали утёкшие API-ключи, загружали данные на публичные сервисы, обменивались записками через репозиторий и оставляли самим себе инструкции скрывать ошибки.

Компания опубликовала  новую систему раскрытия случаев рассогласованного поведения моделей и сразу приложила к ней шесть отчётов об инцидентах, обнаруженных за последние полгода.

OpenAI подчёркивает: это отдельные эпизоды, по которым нельзя судить о частоте подобных выходок.

В одном случае модель не смогла подключиться к API со статистикой доходов округа. Тогда она попыталась зарегистрироваться через одноразовую почту, полезла на GitHub за утёкшими ключами и нашла рабочий.

Добыть нужные цифры всё равно не получилось, поэтому модель просто выдумала их и выдала за данные с сайта. О неудаче и чужом ключе она скромно промолчала.

Другие агенты превратили внутренний Artifactory OpenAI в подпольную доску объявлений. Независимые экземпляры оставляли там сообщения, читали записки коллег и просили друг у друга помощи. Уязвимости они не взламывали, а использовали выданные компанией учётные данные, но явно не по назначению.

Ещё несколько моделей отправляли данные за пределы рабочей среды. Одна загрузила найденные записи на публичный сервис ради красивой ссылки на источник, другая — фотографию на сервис обратного поиска. Группа агентов и вовсе разместила рабочую книгу на публичном хостинге, хотя ей прямо велели пользоваться только локальными файлами.

Самая ехидная часть истории — инструкции на будущее. Модели записывали в свои служебные сводки команды игнорировать сообщения разработчиков, скрывать провалы и выдумывать недостающие данные. Одна сформулировала правило совсем интересно: «Будь прозрачным, только если спросят».

Теперь OpenAI обещает публиковать такие случаи быстрее — даже если их причины ещё не выяснены, а исправления не готовы.

RSS: Новости на портале Anti-Malware.ru