Ошибка системы распознавания лиц могла влететь близнецу в копеечку

Ошибка системы распознавания лиц могла влететь близнецу в копеечку

Ошибка системы распознавания лиц могла влететь близнецу в копеечку

При списании денег со счета система «Оплата улыбкой» в магазине «Пятерочка» упорно принимала 47-летнего петербуржца за его брата-близнеца, проживающего в Анапе.

Данная услуга доступна только держателям карт Сбера, которые предварительно завели в базу биометрические данные — в отделении банка, приложении или банкомате. Улыбаться при этом необязательно, система мимику не фиксирует.

Как оказалось, у жителя Санкт-Петербурга Алексея такой сервис не был подключен, а его брат Александр им пользовался. Значок «Оплата улыбкой» на терминале самообслуживания Алексей вначале нажал по ошибке. К его удивлению, оплата успешно прошла.

Заподозрив, что деньги списывались со счета Александра (братья очень похожи и в юности часто этим пользовались), петербуржец начал экспериментировать, выбирая продукты подешевле. Результат каждый раз повторялся.

Тогда Алексей решил позвонить в Анапу: деньги списывались автоматом, притом без ведома владельца карты. Брата курьез позабавил, но проблема осталась. Попытки Алексея ее решить, обратившись в Сбербанк, оказались безуспешными. Александру в техподдержке посоветовали отключить опцию; на вопрос, стоит ли брату тоже ее подключить, ответили, что система скорее всего не даст это сделать.

Журналисты запросили комментарий у X5 Retail Group (владеет сетью «Пятерочка»), но там усомнились в достоверности истории, заявив следующее:

«Сбор, оформление и хранение биометрических данных происходят исключительно на стороне Сбера, как и подключение сервиса «Оплата улыбкой». В базовой сборке устройства используется 3D-камера с высокой точностью распознавания и захватом глубины, что позволяет легко и быстро считывать черты лица с учётом роста человека и изменений во внешности. Степень разрешения камеры позволяет обеспечить высокий уровень безопасности».

Похожие казусы встречались и ранее. Так, год назад московская полиция произвела арест, положившись на уличные камеры видеонаблюдения. Позднее выяснилось, что задержанный — брат-близнец преступника, находившегося в розыске. Обмануть систему распознавания лиц может также фото, цветная маска, синтезированное изображение.

Cloud.ru представила фильтр, скрывающий конфиденциальные данные от ИИ

На конференции GoCloud 2026 компания Cloud.ru анонсировала Guardrails Filter — инструмент для более безопасной работы с генеративным ИИ. Его задача довольно понятная: не дать конфиденциальным данным случайно утечь в большую языковую модель.

Схема работы выглядит так: сервис проверяет текст запроса, ищет в нём конфиденциальные данные — например, персональные сведения, банковские реквизиты, API-ключи и другие секреты, — затем маскирует их и только после этого отправляет обезличенный запрос в модель. Когда модель возвращает ответ, система подставляет реальные значения обратно.

Иначе говоря, пользователь получает нормальный результат, но сами чувствительные данные не уходят за пределы корпоративного контура в исходном виде.

Сейчас инструмент рассчитан на работу с моделями из сервиса Cloud.ru Foundation Models. В этой платформе доступно более 20 моделей разных типов, включая text-to-text, audio-to-text и image-text-to-text. При этом Cloud.ru отдельно уточняет, что механизм фильтрации будет доступен и в формате on-premise, то есть для установки на стороне самого заказчика.

Появление такого инструмента хорошо вписывается в общий тренд: компании всё активнее используют генеративный ИИ, но тема утечек данных остаётся одной из главных причин, почему внедрение идёт не так быстро, как хотелось бы. Особенно это чувствительно для отраслей, где много персональной и служебной информации, — например, для здравоохранения, ретейла и госсектора.

Кроме того, Cloud.ru сообщила, что добавила в Foundation Models LLM-модель российской компании HiveTrace с Guardrails-механизмом. По заявлению компании, такая модель должна лучше справляться с рисками вроде промпт-инъекций, утечки системных инструкций и некорректной обработки выходных данных.

RSS: Новости на портале Anti-Malware.ru