ИИ не узнал дом британского премьера: на Booking.com сдали Даунинг-стрит

ИИ не узнал дом британского премьера: на Booking.com сдали Даунинг-стрит

ИИ не узнал дом британского премьера: на Booking.com сдали Даунинг-стрит

Системы безопасности Booking.com не заметили ничего странного в предложении снять квартиру на Даунинг-стрит, 10 — по адресу официальной резиденции премьер-министра Великобритании. Фальшивое объявление создали исследователи организации Which?, чтобы проверить защиту платформы от мошенников.

В карточке красовались точный адрес, фотография знаменитого здания и описание «однокомнатного жилья в самом центре Лондона», всего в четырёх минутах ходьбы от парламента.

Объявление появилось 18 июня, а возможность бронирования ненадолго открыли специально для теста. И Booking.com не подвёл (правда, совсем не в том смысле).

Платформа обработала платёж за недельное проживание, причём спустя более шести недель деньги исследователю так и не вернули. Следом модерацию почти мгновенно прошёл фальшивый отзыв об исключительном отдыхе и общении с котом Ларри, официальным мышеловом резиденции.

На этом аттракцион доверчивости не закончился. Через внутренний чат Booking.com исследователи отправили внешнюю ссылку с просьбой ввести данные банковской карты якобы для подтверждения брони. Система, которая, по словам компании, умеет блокировать подозрительные адреса, опять решила не вмешиваться.

Объявление окончательно удалили лишь 27 августа. В Which? назвали результаты проверки свидетельством системных сбоев и призвали британского регулятора Ofcom начать расследование.

«Если сложный ИИ Booking.com не понимает, что Даунинг-стрит, 10 — не домик для отпуска, неудивительно, что мошенники так легко используют платформу», — заявил редактор Which? Travel Рори Боланд.

В Booking.com ответили, что эксперимент не отражает опыт миллионов клиентов, а объявление якобы не было публично доступно. Некоторые антифрод-механизмы поэтому не активировались.

Яндекс опроверг безграничный доступ Алисы AI к данным пользователей

Алиса AI не получит неограниченный доступ к данным смартфонов и не сможет самостоятельно заглядывать в банковские приложения. Об этом заявил руководитель группы безопасности Алисы AI и автономного транспорта Яндекса Борис Рютин.

По его словам, возможности ассистента всегда ограничены механизмами безопасности мобильной операционной системы.

Работать с данными или функциями устройства он может только после явного разрешения владельца.

Представитель Яндекса также утверждает, что российский помощник не получит дополнительных возможностей и преимуществ перед зарубежными аналогами. Пользователь сможет самостоятельно выбрать системного ассистента в настройках — отечественного или иностранного.

Комментарий последовал после публикации о возможном обновлении правил предустановки российского ПО. По данным источников, Минцифры обсуждает предоставление системным ИИ-помощникам доступа к приложениям, уведомлениям, средствам авторизации и аппаратным функциям устройств.

Источники допускали, что Алиса AI сможет взаимодействовать даже с банковскими сервисами и другими программами, обрабатывающими конфиденциальные данные.

В начале августа Минцифры уже публиковало проект, согласно которому пользователю должны предлагать выбрать системного помощника при первом включении гаджета. Позже документ удалили с портала нормативных актов и отправили на доработку.

Таким образом, окончательные требования ещё не утверждены, а детали будущих полномочий помощников остаются предметом обсуждения.

RSS: Новости на портале Anti-Malware.ru