ИИ-механизм Windows Recall не всегда распознает данные кредиток и SSN

ИИ-механизм Windows Recall не всегда распознает данные кредиток и SSN

ИИ-механизм Windows Recall не всегда распознает данные кредиток и SSN

Тестирование ИИ-функции Recall, которую Microsoft вернула в сборки Windows Insiders, показало, что обновление устранило не все проблемы с приватностью. Распознавание персональных и платежных данных иногда отказывает, и они сохраняются в базе.

В ходе испытаний фильтр конфиденциальной информации, дефолтно используемый ИИ-помощником Recall, исправно отработал лишь на страницах платежей двух коммерческих сайтов: скриншот был сделан до ввода данных кредитки (фейковых) или уже после очистки полей.

Однако если эти сведения вместе с учетками записать в Блокнот Windows для последующего копипаста, захват экрана произойдет даже при наличии в тексте явного признака конфиденциальности — названия банковской карты (вслед за номером исследователь вбил «Capital One Visa»).

Такой же результат был получен при заполнении PDF-бланка заявки на кредит в Microsoft Edge, с указанием имени, даты рождения и номера страховки. Как оказалось, в этих случаях Recall не остановит даже ввод номера реальной кредитки пользователя — он все равно зафиксирует его скриншотом и сохранит.

Экспериментатор также создал собственную страницу HTML с полями для ввода платежных данных и четкой подсказкой: «ниже введите данные кредитной карты». После заполнения веб-форма тоже была с успехом отправлена на хранение.

 

В ответ на запрос исследователя о комментарии представитель Microsoft указал на запись о приватности в блоге компании, посвященном Recall Preview:

«Мы обновили Recall, и он теперь детектирует конфиденциальную информацию такую как данные кредитных карт, пароли и персональные идентификаторы. При ее обнаружении скриншот не сохраняется и хранению не подлежит. Мы и далее будет совершенствовать эту функциональность. Если вы нашли данные, которые тоже стоит фильтровать, сообщите об этом через концентратор обратной связи».

Анонс Windows Recall в минувшем мае вызвал бурную дискуссию: появились опасения, что нововведение небезопасно. Фиксируя все действия пользователя на компьютере, дефолтно включенный ИИ-ассистент сохранял такие данные локально в открытом виде, что провоцировало кражу.

В ответ на резкую критику Microsoft изъяла Recall из пробных сборок ОС, предоставляемых по программе Windows Insiders, и пообещала внести исправления. В итоге ИИ-помощник теперь по умолчанию отключен, при каждом запуске требует аутентификации через Windows Hello и старательно шифрует хранимые конфиденциальные данные (последнее тестирование это подтвердило).

Надежность шифрования исследователь не смог оценить, однако в ходе экспериментов ему не удалось без запуска Recall открыть файл базы данных (ukg.db) и файлы из папки со скриншотами (AsymStore). Вместе с тем защита в виде Windows Hello, по его мнению, предоставляет злоумышленникам лазейку.

В тех случаях, когда на вход вместо биометрии установлен четырехзначный ПИН, взлом или кража этого ключа откроет доступ к ИИ-приложению. Его даже можно будет получить удаленно — с помощью TeamViewer.

С инцидентами по вине сотрудников сталкивалось больше половины компаний

По данным статистики, собранной компанией «Кросс технолоджис» за 2025 год, с инцидентами в сфере информационной безопасности по вине сотрудников столкнулись 52% российских компаний. Чаще всего проблемы были связаны с нарушением парольной политики — на них пришлось около 80% таких инцидентов, а также с несоблюдением правил резервного копирования (примерно 60%).

При этом, как отмечают аналитики, к нарушениям парольных политик чаще других склонны сотрудники ИТ- и ИБ-подразделений. В ряде случаев они выводят собственные учетные записи из-под действия установленных правил, что создаёт для организаций существенные риски.

Среди проблем, связанных с резервным копированием, наиболее распространены нерегулярное выполнение бэкапов, неполнота резервируемых данных и отсутствие должного уровня их защиты. Руководитель отдела анализа защищенности и киберразведки департамента оценки защищенности «Кросс технолоджис» Василий Коровицын привёл пример того, к чему могут привести подобные нарушения.

Так, в ходе ИБ-аудита в одной из компаний на файловом сервере была обнаружена резервная копия в открытом доступе. Она содержала, в том числе, образ контроллера домена с учетными записями всех пользователей, включая привилегированные. При этом файл находился там несколько месяцев. По оценке Василия Коровицына, подобная ситуация возможна только при грубейшем нарушении регламентов резервного копирования либо при их полном отсутствии.

В «Кросс технолоджис» также подчёркивают, что причиной нарушений политик безопасности нередко становится не халатность сотрудников, а чрезмерная сложность и неудобство самих правил, а также их противоречие реальным бизнес-процессам. В результате сотрудники начинают искать способы обойти мешающие регламенты, чтобы не снижать эффективность своей работы.

«Нарушение политик безопасности — серьёзная проблема. Чтобы её избежать, необходимо формировать правила таким образом, чтобы они не противоречили логике бизнес-процессов. Вторая важная составляющая — повышение осведомлённости сотрудников в вопросах информационной безопасности через тренинги и киберучения, что помогает лучше понять необходимость соблюдения установленных требований. Регулярная оценка защищенности позволяет выявить уязвимости, возникающие из-за нарушения правил, и сформировать дорожную карту по их устранению», — прокомментировала результаты исследования Анастасия Мельникова, руководитель департамента оценки защищенности «Кросс технолоджис».

RSS: Новости на портале Anti-Malware.ru