Лаборатория Касперского открыла Центр прозрачности в Сеуле

Лаборатория Касперского открыла Центр прозрачности в Сеуле

Лаборатория Касперского открыла Центр прозрачности в Сеуле

Открытие Центра прозрачности в столице Южной Кореи состоялось в рамках Глобальной инициативы по информационной открытости. Посетители Центра смогут познакомиться с внутренними процессами компании и принятыми в ней практиками управления данными, а также провести аудит исходного кода продуктов.

Центр прозрачности в Сеуле, как и другие аналогичные центры, открытые в разных странах, рассчитан на партнеров, заказчиков и регуляторов. Посетители могут изучить исходный код продуктов «Лаборатории Касперского» в одном из трёх форматов: базовом, где даются общие представления о процессах разработки, более детальном, где возможно ознакомление с наиболее критичными фрагментами кода и детальный анализ отдельных функций, и полный разбор исходного кода.

Также можно получить информацию о том, как в «Лаборатории Касперского» проходит безопасная разработка приложений. Посетители могут ознакомиться с тем, как построены процессы анализа угроз, проверки и тестирования безопасности приложений, а также ознакомиться со списком сторонних компонентов в ПО компании.

Помимо Центров прозрачности в рамках Глобальной инициативы по информационной открытости компания внедрила меры, направленные на укрепление доверия к цифровым технологиям и повышение прозрачности в сфере кибербезопасности.

В их числе диверсификация инфраструктуры по обработке и хранению данных; проведение регулярных независимых аудитов; запуск обучающей программы, которая позволяет получить навыки оценки уровня безопасности ИТ-инфраструктуры; увеличение размера вознаграждения в программе по поиску уязвимостей до 100 тысяч долларов США за обнаружение наиболее серьёзных уязвимостей в ПО «Лаборатории Касперского»; публикация отчётов с информацией о том, сколько запросов на получение данных поступает в компанию от правоохранительных органов и государственных структур. Так, за первую половину 2024 года компания получила 61 запрос на техническую информацию из девяти стран.

«Открытие новых Центров прозрачности — это свидетельство нашего стремления создать экосистему кибербезопасности, в основе которой лежит доверие и технологическое лидерство. Центр в Сеуле поможет компании делиться своими практиками, повышать уверенность пользователей защитных решений в их качестве, а также будет вносить вклад в международное противодействие глобальным киберугрозам», — комментирует Юлия Шлычкова, директор «Лаборатории Касперского» по связям с государственными органами.

Подпишитесь на новости

PT Application Firewall получил защиту от атак на LLM

Корпоративному ИИ-ассистенту доверили документы, клиентские данные и доступ к системам. Теперь осталось проследить, чтобы командовать им не начал первый встречный. Positive Technologies разработала LLM Firewall — модуль защиты ИИ-сервисов в составе PT Application Firewall.

По словам компании, он проверяет запросы к языковым моделям и их ответы: ищет попытки обойти ограничения, вытащить системные инструкции, раскрыть конфиденциальную информацию или использовать возможности агента в интересах атакующего.

Одна из целей — противодействие инъекциям в промпт. Вредоносную инструкцию можно отправить боту напрямую или спрятать в документе, который тот обрабатывает. Внешне это обычный текст, а по замыслу — попытка назначить нейросети нового начальника.

Подозрительные обращения модуль позволяет блокировать либо фиксировать для последующего разбора. Отдельно заявлено обнаружение персональных данных, паролей, ключей доступа, а также токсичного и запрещённого контента.

Проверка работает в обе стороны: контролируется и то, что отправляют модели, и то, что она выдаёт пользователю. Секреты могут утечь не только из-за хитрого атакующего, но и благодаря очень старательному сотруднику.

LLM Firewall уже интегрирован в PT AF Cloud. Он подключается к обмену между приложением и моделью через API, совместимый с OpenAI Chat Completions и Responses. Отдельная консоль управления не требуется. В PT AF PRO для развёртывания внутри инфраструктуры заказчика модуль обещают добавить позднее.

Для разных ИИ-сервисов можно задавать свои политики, выбирать мониторинг или блокировку, отдельно настраивать проверку запросов и ответов. События поступают в PT AF для анализа и расследования.

RSS: Новости на портале Anti-Malware.ru