«Открытые Технологии» создали систему ИБ для Департамента занятости населения Тюменской области

«Открытые Технологии» создали систему ИБ для Департамента занятости населения Тюменской области

Компания «Открытые Технологии», российский системный интегратор, сообщила о завершении работ по обследованию информационной безопасности автоматизированной системы обработки информации Департамента занятости населения Тюменской области и внедрению средств защиты. 

Регулирующие органы РФ в области ИБ предписывают государственным организациям обеспечить у себя необходимый уровень защиты конфиденциальной информации. С целью соответствия этим требованиям руководство Департамента занятости приняло решение создать в составе своей автоматизированной системы систему информационной безопасности (СИБ), говорится в сообщении «Открытых Технологий». 

Работы по построению СИБ решено было проводить в несколько этапов. Сначала специалисты компании-интегратора провели обследование существующего уровня ИБ автоматизированной системы заказчика. Были изучены особенности системы, выявлены возможные способы реализации угроз ИБ, проанализирована эффективность принятых мер безопасности и используемых средств защиты. При этом анализ проводился не только с использованием методических рекомендаций регулирующих органов, но и собственных наработок системного интегратора. 

Затем заказчик получил рекомендации по возможной модификации системы для повышения уровня безопасности автоматизированной системы. 

В дальнейшем был введен в действие защищенный канал передачи данных между Департаментом занятости Тюменской области и Федеральной службой по труду и занятости (Роструд). Защита канала осуществлялась с помощью сертифицированных защитных средств. 

Особенностью данного проекта стал комплексный подход к обеспечению безопасности с учетом всех требований регулирующих органов РФ в области защиты конфиденциальной информации. Для заказчика этот проект стал пилотным — в будущем планируется дальнейшее развитие системы информационной безопасности. 

По словам Людмилы Минковой, начальника отдела ИТиА Департамента занятости населения Тюменской области, «в результате предпринятых действий мы получили возможность значительно снизить величину возможного ущерба от реализации угроз информационной безопасности».

 

Источник 

Подпишитесь на новости

PT Application Firewall получил защиту от атак на LLM

Корпоративному ИИ-ассистенту доверили документы, клиентские данные и доступ к системам. Теперь осталось проследить, чтобы командовать им не начал первый встречный. Positive Technologies разработала LLM Firewall — модуль защиты ИИ-сервисов в составе PT Application Firewall.

По словам компании, он проверяет запросы к языковым моделям и их ответы: ищет попытки обойти ограничения, вытащить системные инструкции, раскрыть конфиденциальную информацию или использовать возможности агента в интересах атакующего.

Одна из целей — противодействие инъекциям в промпт. Вредоносную инструкцию можно отправить боту напрямую или спрятать в документе, который тот обрабатывает. Внешне это обычный текст, а по замыслу — попытка назначить нейросети нового начальника.

Подозрительные обращения модуль позволяет блокировать либо фиксировать для последующего разбора. Отдельно заявлено обнаружение персональных данных, паролей, ключей доступа, а также токсичного и запрещённого контента.

Проверка работает в обе стороны: контролируется и то, что отправляют модели, и то, что она выдаёт пользователю. Секреты могут утечь не только из-за хитрого атакующего, но и благодаря очень старательному сотруднику.

LLM Firewall уже интегрирован в PT AF Cloud. Он подключается к обмену между приложением и моделью через API, совместимый с OpenAI Chat Completions и Responses. Отдельная консоль управления не требуется. В PT AF PRO для развёртывания внутри инфраструктуры заказчика модуль обещают добавить позднее.

Для разных ИИ-сервисов можно задавать свои политики, выбирать мониторинг или блокировку, отдельно настраивать проверку запросов и ответов. События поступают в PT AF для анализа и расследования.

RSS: Новости на портале Anti-Malware.ru