Хотели как безопаснее, получилось как всегда

Хотели как безопаснее, получилось как всегда

Аналитический центр InfoWatch сообщает, что в Торонто были потеряны 3 незашифрованных CD-ROM с персональными данными клиентов банка Scotiabank. Инцидент, как сообщило руководство, произошёл по недосмотру курьерской службы.



«Пакет с тремя CD пропал при внутренней курьерской пересылке из одного отдела в другой, – сообщил в своем письме Джо Конекни (Joe Konecny), представитель банка по связям с общественностью. – По результатам расследования, мы можем утверждать, что диски были ошибочно доставлены в другой отдел. У нас нет оснований полагать, что наши клиенты подвергнутся риску. И мы уведомляем их о происшествии просто в качестве меры предосторожности. Также мы сообщили об инциденте канадскому комиссару по вопросам охраны личной информации».

Диски должны были быть отправлены в канадское агентство по учету доходов (банки обязаны предоставлять агентству информацию). Для внутреннего обмена данными между подразделениями явно был бы удобнее и безопаснее обмен по сети. Однако для внешнего потребителя, чтоб не давать ему доступ в информационную систему банка и не соединять две системы, воспользовались компакт-дисками. Как видим, попытки избежать одного риска привели к реализации риска другого.

Банк всячески намекает на обычную безалаберность работников. Однако, есть основания полагать, чтот не обошлось без злоумышленного инсайдера. Случайно попавшие неверному адресату диски всегда можно потом найти, если хорошенько покопаться в офисе. Однако расследование диски не обнаружило.

Количество скомпрометированных записей банк не раскрывает. Он ограничился сообщением, что на дисках находится конфиденциальная информация «незначительного процента» клиентов.

На пропавших дисках содержится информация об именах, почтовых адресах, номерах карт социального страхования, типах и номерах счетов клиентов.
Но одновременно в банке отметили, что на CD-ROM не было выписок из счетов или другой информации о транзакциях и остатках на счетах.

Подпишитесь на новости

PT Application Firewall получил защиту от атак на LLM

Корпоративному ИИ-ассистенту доверили документы, клиентские данные и доступ к системам. Теперь осталось проследить, чтобы командовать им не начал первый встречный. Positive Technologies разработала LLM Firewall — модуль защиты ИИ-сервисов в составе PT Application Firewall.

По словам компании, он проверяет запросы к языковым моделям и их ответы: ищет попытки обойти ограничения, вытащить системные инструкции, раскрыть конфиденциальную информацию или использовать возможности агента в интересах атакующего.

Одна из целей — противодействие инъекциям в промпт. Вредоносную инструкцию можно отправить боту напрямую или спрятать в документе, который тот обрабатывает. Внешне это обычный текст, а по замыслу — попытка назначить нейросети нового начальника.

Подозрительные обращения модуль позволяет блокировать либо фиксировать для последующего разбора. Отдельно заявлено обнаружение персональных данных, паролей, ключей доступа, а также токсичного и запрещённого контента.

Проверка работает в обе стороны: контролируется и то, что отправляют модели, и то, что она выдаёт пользователю. Секреты могут утечь не только из-за хитрого атакующего, но и благодаря очень старательному сотруднику.

LLM Firewall уже интегрирован в PT AF Cloud. Он подключается к обмену между приложением и моделью через API, совместимый с OpenAI Chat Completions и Responses. Отдельная консоль управления не требуется. В PT AF PRO для развёртывания внутри инфраструктуры заказчика модуль обещают добавить позднее.

Для разных ИИ-сервисов можно задавать свои политики, выбирать мониторинг или блокировку, отдельно настраивать проверку запросов и ответов. События поступают в PT AF для анализа и расследования.

RSS: Новости на портале Anti-Malware.ru