Cloud.ru открыл код фильтра, который не отдаст пароли и ПДн нейросети

Cloud.ru открыл код фильтра, который не отдаст пароли и ПДн нейросети

Cloud.ru открыл код фильтра, который не отдаст пароли и ПДн нейросети

Cloud.ru открыл исходный код Guardrails Filter — инструмента, который не даёт пользователям случайно скормить языковой модели персональные данные, пароли, API-ключи и другие корпоративные секреты. Компании смогут бесплатно развернуть сервис в собственной инфраструктуре и подключить его к моделям любых провайдеров.

Guardrails Filter встаёт между корпоративным приложением и нейросетью. Перед отправкой запроса он ищет конфиденциальную информацию и заменяет её синтетическими значениями.

Когда модель формирует ответ, сервис возвращает исходные данные на место. В итоге пользователь получает нормальный результат, а условный «пароль_от_прода» не отправляется неизвестно куда вместе с просьбой составить отчёт.

Инструмент уже применяется в среде AI Factory для защиты запросов к сервису Foundation Models, а также в клиентских и внутренних проектах Cloud.ru. Открытая версия не привязана к облачной платформе компании и может работать внутри закрытого ИТ-контура.

Пользователям доступны готовые правила обнаружения конфиденциальной информации. Можно создавать и собственные — например, для номеров договоров, идентификаторов клиентов или кодовых названий проектов. Управление осуществляется через личный кабинет: там разрешается настраивать и тестировать правила, просматривать журналы и отслеживать предупреждения.

В Guardrails Filter также есть Ghost Mode. Он позволяет проверить, какие данные сервис стал бы блокировать, но пока не вмешиваться в реальный трафик. Удобный режим для тех, кто не хочет включать защиту рубильником и затем выяснять, почему половина запросов внезапно исчезла.

На публичном бенчмарке pii-bench инструмент получил 93,1 балла по метрике F1. Заявленная точность срабатываний достигла 99,9% — примерно 999 из 1000 обнаружений должны быть верными.

Исходный код версий Standalone и ExtProc опубликован на GitHub и GitVerse. Теперь защищать корпоративные данные от слишком любознательных нейросетей можно собственными силами и заодно проверить, что именно происходит под капотом.

Импортозамещение электроники притормозило: цель урезали с 80% до 58,7%

Правительство России заметно снизило планку импортозамещения электроники для цифровой трансформации госуправления. Раньше к 2030 году долю отечественного оборудования собирались довести до 80%, теперь хватит и 58,7%. Изменения закреплены распоряжением премьер-министра Михаила Мишустина №1779-р.

Обновлённый график выглядит без особого размаха: 57,9% российской электроники в 2026 году, 58,4% — в 2027-м и 58,7% — с 2028-го по 2030 год, пишет CNews.

Иными словами, к концу десятилетия около 41,3% оборудования в государственных цифровых проектах всё ещё сможет быть импортным или не иметь статуса российского.

В Минцифры сообщили, что новые показатели предложил Минпромторг, отвечающий за развитие электронной промышленности. Само ведомство пересмотр цели пока не комментировало.

Эксперты считают прежние 80% слишком оптимистичным ориентиром. Для его достижения России понадобился бы почти полный производственный цикл: от материалов и оборудования до современных микросхем. Но санкции и отсутствие доступа к передовым литографическим технологиям внесли в планы свои технические характеристики.

Есть и более прозаичная причина — деньги. По сведениям источников CNews, Минпромторг перенёс или отменил несколько крупных проектов в области электронного машиностроения и материалов для производства чипов. Финансирование госпрограммы развития электронной промышленности также сократили.

Снижение процента не обязательно означает уменьшение закупок российской техники: государственная цифровизация продолжается, поэтому их объём может расти. Однако стимул осваивать самые сложные направления микроэлектроники рискует ослабнуть.

В общем, импортозамещение не отменили, ему просто выставили план, который меньше спорит с реальностью. Вместо амбициозных 80% государство теперь рассчитывает хотя бы не откатиться ниже 58,7%.

RSS: Новости на портале Anti-Malware.ru