Ассистент Amazon Alexa самостоятельно записывает частные беседы

Ассистент Amazon Alexa самостоятельно записывает частные беседы

Ассистент Amazon Alexa самостоятельно записывает частные беседы

Персональный ассистент от Amazon Alexa вторгается в частную жизнь, записывая приватные семейные разговоры, а затем отправляет записанную информацию контактам в адресной книге. Причем для активации такой «фичи» не надо было даже произносить кодовое слово для пробуждения помощника — «Алекса».

Об этом сообщила пользователь ассистента от Amazon жительница Портленда, штат Орегон, Даниэль. Она установила смарт-динамики Echo в каждой комнате своего дома.

Женщина узнала о проблеме после того, как ей позвонил один из коллег ее мужа.

«Немедленно отключите свои устройства, где используется Alexa. Вас взламывают», — сказал он.

Сначала Даниэль не поверила мужчине, но затем он сказал:

«Вы сидели и обсуждали паркетные полы».

После этого Даниэль поняла, что коллега мужа все слышал. Женщина заявила, что сразу прочувствовала всю горечь вторжения в частную жизнь таким беспардонным образом. Даниэль отметила, что больше никогда не будет пользоваться Amazon Alexa, так как доверие утрачено.

Представитель Amazon подтвердил наличие проблемы и принес свои извинения встревоженной женщине. Он отметил, что «это крайне редкое явление». Никаких объяснений, почему устройство повело себя именно так, не последовало.

Позже разработчики Amazon выпустили официальное заявление по этому поводу:

«Голосовой помощник активировался из-за слова в разговоре, которое напоминало по звучанию слово “Алекса”. После этого ассистент уловил в разговоре что-то похоже на “отправить сообщение” (в этот момент Alexa спросила “Кому”). Далее в процессе разговора помощник принял какое-то слово за имя в списке контактов клиента. В завершении Alexa попросила подтвердить отправку записи именно этому контакту, восприняв дальнейший разговор в качестве подтверждения».

Разработчики обещали свести к минимуму такие случаи, поработав над своим ассистентом.

Подпишитесь на новости

В справке WhatsApp нашли скрытые указания для бота не упоминать GDPR

В коде справочных страниц WhatsApp (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России) обнаружились скрытые указания для ИИ-поддержки: не рекомендовать обращение к регуляторам, а при упоминании суда или адвоката — не ссылаться на законодательство о защите данных. Пользователь видел обычную справку, а бот получал дополнительную методичку о том, чего лучше не говорить.

Находку опубликовала компания Redact. Исследователи проверили 545 страниц и обнаружили 102 скрытых блока на 80 из них.

Большинство содержало обычные служебные пояснения, но некоторые явно заслуживали отдельного внимания.

Например, пользователю, потерявшему доступ к номеру и не способному удалить аккаунт, бот не должен был советовать обращаться в надзорные органы. При этом европейская политика конфиденциальности WhatsApp прямо предусматривает возможность такой жалобы.


Другая инструкция запрещала обсуждать GDPR, LGPD и CCPA после упоминания юридического разбирательства, даже если пользователь сам спрашивал об этих нормах.

WhatsApp подтвердил WIRED, что указания предназначались собственному чат-боту поддержки. Их появление в публичном коде компания объяснила ошибкой, а ограничения — стремлением не давать юридические советы. К 18 октября скрытые блоки удалили.

RSS: Новости на портале Anti-Malware.ru