Whisper Leak: новая атака раскрывает темы диалогов с ИИ даже при шифровании

Whisper Leak: новая атака раскрывает темы диалогов с ИИ даже при шифровании

Whisper Leak: новая атака раскрывает темы диалогов с ИИ даже при шифровании

Исследователи Microsoft рассказали о новом векторе кибератаки под кодовым названием Whisper Leak. Он позволяет злоумышленникам вычислять, о чём человек разговаривает с искусственным интеллектом, даже если весь трафик зашифрован.

Наблюдая за сетевым трафиком между пользователем и языковой моделью, атакующий может анализировать размеры и интервалы передачи пакетов, чтобы определить тему диалога.

При этом содержимое сообщений остаётся зашифрованным, но характер обмена данными оказывается достаточно информативным, чтобы классифицировать разговор.

Как предупредила Microsoft, в зоне риска находятся пользователи, чей трафик может быть перехвачен — например, на уровне интернет-провайдера, в локальной сети или при подключении к общему Wi-Fi.

Исследователи отмечают, что атака может применяться для слежки за темами вроде финансовых операций, политических обсуждений или других конфиденциальных запросов.

Whisper Leak использует особенности потоковой генерации ответов (streaming mode), когда языковая модель отправляет текст постепенно, а не целиком после завершения обработки. Это даёт злоумышленнику возможность фиксировать различия в размерах и частоте пакетов данных, а затем с помощью алгоритмов машинного обучения — таких как LightGBM, Bi-LSTM и BERT — определять, к какой теме относится запрос.

 

По данным Microsoft, при тестировании многие модели — включая решения от Alibaba, DeepSeek, Mistral, Microsoft, OpenAI и xAI — показали точность классификации выше 98%. У моделей Google и Amazon результаты были лучше за счёт иной архитектуры, но и они оказались не полностью защищены.

После уведомления об уязвимости компании OpenAI, Microsoft, Mistral и xAI внедрили меры защиты. Одним из эффективных методов стало добавление случайных текстовых вставок переменной длины в ответы модели. Это делает размеры пакетов менее предсказуемыми и мешает анализировать поток данных.

Microsoft также рекомендует пользователям избегать обсуждения конфиденциальных тем при работе с чат-ботами через общественные сети, использовать VPN, по возможности выбирать непотоковые версии моделей и отдавать предпочтение сервисам, уже внедрившим защиту от подобных атак.

По сути, Whisper Leak показывает, что даже шифрование не всегда гарантирует приватность, если злоумышленник умеет «слушать» не слова, а ритм и объём разговора с искусственным интеллектом.

Подробнее о тёмной стороне искусственного интеллекта, а также угрозах, которые он несёт, можно почитать в нашей статье.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Банк России включит крупные переводы себе по СБП в перечень мошеннических

В Банке России заявили, что кредитные организации при анализе операций должны учитывать не только факт крупных переводов самому себе через Систему быстрых платежей (СБП), но и то, совершал ли клиент в тот же день переводы другим лицам — особенно тем, кому ранее долгое время не отправлял деньги. О предстоящем нововведении сообщил директор департамента информационной безопасности ЦБ Вадим Уваров.

Включение таких переводов в перечень признаков мошеннических операций Вадим Уваров анонсировал в интервью РИА Новости.

Он отметил, что распространённой остаётся ситуация, когда злоумышленники убеждают человека перевести сбережения со своих счетов в других банках на собственное имя по СБП. Это упрощает похищение средств, особенно если мошенники уже получили доступ к устройству или аккаунту жертвы.

«Поэтому крупные переводы самому себе по СБП мы планируем включить в обновлённый перечень мошеннических признаков. Но обращаю внимание, что банки будут учитывать этот фактор, если в тот же день клиент попытается перевести деньги другому человеку, которому в течение полугода не отправлял никаких переводов», — подчеркнул Вадим Уваров.

Представитель регулятора напомнил, что в 2024 году перечень признаков подозрительных операций был расширен до шести пунктов. Однако за это время методы злоумышленников продолжили развиваться, поэтому Банк России планирует скорректировать нормативную базу с учётом новых схем мошенничества.

По словам Уварова, часть обновлённых мер будет аналогична тем, что действуют с октября и направлены на предотвращение мошенничества при операциях с использованием банкоматов.

В целом повышенное внимание банков привлекают операции с крупными суммами — свыше 100 тысяч рублей в день или более 1 миллиона рублей в месяц, а также частые переводы (30 и более в день). Дополнительный риск вызывает и слишком короткий промежуток времени между поступлением средств на счёт и их переводом.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru