InfoWatch анализирует утечки государственной тайны

InfoWatch анализирует утечки государственной тайны

InfoWatch анализирует утечки государственной тайны

Потеря секретных государственных сведений - чрезвычайный инцидент, который может поставить под угрозу национальную безопасность. Подобную информацию добывают шпионы и сливают нелояльные сотрудники, также она утекает в результате хакерских атак и случайных действий персонала.

Завершившийся 2017 год многим запомнился очередными разоблачениями со стороны портала WikiLeaks. Скандально известный портал выложил тысячи секретных документов Центрального разведывательного управления США. Серия публикаций под кодовым названием Vault7 раскрыла данные о «хакерской программе» под управлением ЦРУ, об использовании специальных программ для слежки за пользователями компьютеров и смартфонов, о создании вредоносных программ для Windows и перехвате видеопотоков.  Также порталу Джулиана Ассанжа удалось получить переписку избирательного штаба нового президента Франции Эммануэля Макрона – всего более 70 тыс. писем.

В сентябре 2017 г. в прессу просочилось распоряжение властей США о том, как не допускать утечки информации. Как следует из документа Белого Дома, информация предназначена для более чем 50 министерств и ведомств. Администрация президента США требует провести обучающие мероприятия для сотрудников, где рассказать им о правилах обращения с конфиденциальной информацией, разъяснив наказание за разглашение секретных сведений.

На добыче информации, составляющей военную тайну, специализируются не только шпионы, но и сетевые пираты.  Например, хакерам из Северной Кореи удалось завладеть огромным массивом данных о военных стратегиях Южной Кореи и США и документами, где описывался план физического устранения северокорейского лидера Ким Чен Ына.

Организованные группы киберпреступников используют различные каналы для получения информации. Так, в ноябре 2017 г. китайские хакеры смогли проникнуть в секретный видеочат правительственных органов Индии.  Ранее группировка хакеров Global Leaks взломала электронную почту посла ОАЭ в США. Это резко повысило политическую напряженность в странах Персидского залива, поскольку скомпрометированная переписка содержала данные о том, что ОАЭ использует свое влияние в Вашингтоне, чтобы нанести ущерб Катару.

Из примеров непреднамеренных утечек можно привести случай в Австралии. Местная полиция случайно транслировала в сервис Periscope обсуждение операции по захвату человека, подозреваемого в шпионаже на Северную Корею. Порядка 40 человек успели прослушать трансляцию до того, как ссылка на нее была удалена.

Cloud.ru представила фильтр, скрывающий конфиденциальные данные от ИИ

На конференции GoCloud 2026 компания Cloud.ru анонсировала Guardrails Filter — инструмент для более безопасной работы с генеративным ИИ. Его задача довольно понятная: не дать конфиденциальным данным случайно утечь в большую языковую модель.

Схема работы выглядит так: сервис проверяет текст запроса, ищет в нём конфиденциальные данные — например, персональные сведения, банковские реквизиты, API-ключи и другие секреты, — затем маскирует их и только после этого отправляет обезличенный запрос в модель. Когда модель возвращает ответ, система подставляет реальные значения обратно.

Иначе говоря, пользователь получает нормальный результат, но сами чувствительные данные не уходят за пределы корпоративного контура в исходном виде.

Сейчас инструмент рассчитан на работу с моделями из сервиса Cloud.ru Foundation Models. В этой платформе доступно более 20 моделей разных типов, включая text-to-text, audio-to-text и image-text-to-text. При этом Cloud.ru отдельно уточняет, что механизм фильтрации будет доступен и в формате on-premise, то есть для установки на стороне самого заказчика.

Появление такого инструмента хорошо вписывается в общий тренд: компании всё активнее используют генеративный ИИ, но тема утечек данных остаётся одной из главных причин, почему внедрение идёт не так быстро, как хотелось бы. Особенно это чувствительно для отраслей, где много персональной и служебной информации, — например, для здравоохранения, ретейла и госсектора.

Кроме того, Cloud.ru сообщила, что добавила в Foundation Models LLM-модель российской компании HiveTrace с Guardrails-механизмом. По заявлению компании, такая модель должна лучше справляться с рисками вроде промпт-инъекций, утечки системных инструкций и некорректной обработки выходных данных.

RSS: Новости на портале Anti-Malware.ru