ИИ-механизм Windows Recall не всегда распознает данные кредиток и SSN

ИИ-механизм Windows Recall не всегда распознает данные кредиток и SSN

ИИ-механизм Windows Recall не всегда распознает данные кредиток и SSN

Тестирование ИИ-функции Recall, которую Microsoft вернула в сборки Windows Insiders, показало, что обновление устранило не все проблемы с приватностью. Распознавание персональных и платежных данных иногда отказывает, и они сохраняются в базе.

В ходе испытаний фильтр конфиденциальной информации, дефолтно используемый ИИ-помощником Recall, исправно отработал лишь на страницах платежей двух коммерческих сайтов: скриншот был сделан до ввода данных кредитки (фейковых) или уже после очистки полей.

Однако если эти сведения вместе с учетками записать в Блокнот Windows для последующего копипаста, захват экрана произойдет даже при наличии в тексте явного признака конфиденциальности — названия банковской карты (вслед за номером исследователь вбил «Capital One Visa»).

Такой же результат был получен при заполнении PDF-бланка заявки на кредит в Microsoft Edge, с указанием имени, даты рождения и номера страховки. Как оказалось, в этих случаях Recall не остановит даже ввод номера реальной кредитки пользователя — он все равно зафиксирует его скриншотом и сохранит.

Экспериментатор также создал собственную страницу HTML с полями для ввода платежных данных и четкой подсказкой: «ниже введите данные кредитной карты». После заполнения веб-форма тоже была с успехом отправлена на хранение.

 

В ответ на запрос исследователя о комментарии представитель Microsoft указал на запись о приватности в блоге компании, посвященном Recall Preview:

«Мы обновили Recall, и он теперь детектирует конфиденциальную информацию такую как данные кредитных карт, пароли и персональные идентификаторы. При ее обнаружении скриншот не сохраняется и хранению не подлежит. Мы и далее будет совершенствовать эту функциональность. Если вы нашли данные, которые тоже стоит фильтровать, сообщите об этом через концентратор обратной связи».

Анонс Windows Recall в минувшем мае вызвал бурную дискуссию: появились опасения, что нововведение небезопасно. Фиксируя все действия пользователя на компьютере, дефолтно включенный ИИ-ассистент сохранял такие данные локально в открытом виде, что провоцировало кражу.

В ответ на резкую критику Microsoft изъяла Recall из пробных сборок ОС, предоставляемых по программе Windows Insiders, и пообещала внести исправления. В итоге ИИ-помощник теперь по умолчанию отключен, при каждом запуске требует аутентификации через Windows Hello и старательно шифрует хранимые конфиденциальные данные (последнее тестирование это подтвердило).

Надежность шифрования исследователь не смог оценить, однако в ходе экспериментов ему не удалось без запуска Recall открыть файл базы данных (ukg.db) и файлы из папки со скриншотами (AsymStore). Вместе с тем защита в виде Windows Hello, по его мнению, предоставляет злоумышленникам лазейку.

В тех случаях, когда на вход вместо биометрии установлен четырехзначный ПИН, взлом или кража этого ключа откроет доступ к ИИ-приложению. Его даже можно будет получить удаленно — с помощью TeamViewer.

Бизнес в России боится Роскомнадзора сильнее утечек персональных данных

Почти каждая российская компания сегодня так или иначе работает с персональными данными. Но, согласно исследованию Б-152, для многих это до сих пор не вопрос реальной безопасности, а скорее формальная обязанность, которую надо как-то закрыть на бумаге. Главный вывод исследования: бизнес больше пугают проверки Роскомнадзора, чем сами утечки.

Этот риск главным назвали 77,6% компаний. Для сравнения, непосредственно утечек данных боятся 57,8%. То есть компании чаще переживают не из-за того, что данные клиентов могут утечь, а из-за того, что после этого придёт регулятор.

При этом только за первое полугодие 2025 года было выявлено 601 нарушение, связанное с незаконной обработкой персональных данных. Было возбуждено 313 уголовных дел, зафиксировано 135 утечек баз данных, а в открытом доступе оказались 750 млн записей россиян. Параллельно растёт и судебная активность: за два года число споров по персональным данным увеличилось на 71%.

Но, пожалуй, самая показательная цифра в исследовании другая. 41% компаний вообще не имеют выделенного бюджета на защиту персональных данных, а ещё 37% заморозили такие расходы на 2026 год. При этом почти половина респондентов прямо говорит, что главная проблема при выполнении требований 152-ФЗ — нехватка денег, ресурсов и специалистов.

Из этого и складывается знакомая картина: документы вроде бы есть, формальное соответствие тоже можно показать, а вот реально работающей системы защиты часто нет.

Отдельно исследование показывает ещё один неприятный сдвиг: уголовные дела по таким историям всё чаще касаются не каких-то абстрактных «хакеров из даркнета», а обычных сотрудников. Тех, кто переслал данные не туда, сохранил их на личную почту, не закрыл доступ или не проконтролировал подрядчика. Иными словами, проблема всё чаще упирается не в киношных киберпреступников, а в организационный бардак и человеческий фактор.

Сами компании это, кстати, тоже признают. 44,4% участников исследования назвали главным трендом именно организационный хаос и влияние человеческого фактора. Но при этом обучение сотрудников как показатель эффективности используют лишь 37% компаний. То есть о проблеме все знают, а системно работать с ней готовы далеко не все.

RSS: Новости на портале Anti-Malware.ru