Ассистент Amazon Alexa самостоятельно записывает частные беседы

Ассистент Amazon Alexa самостоятельно записывает частные беседы

Ассистент Amazon Alexa самостоятельно записывает частные беседы

Персональный ассистент от Amazon Alexa вторгается в частную жизнь, записывая приватные семейные разговоры, а затем отправляет записанную информацию контактам в адресной книге. Причем для активации такой «фичи» не надо было даже произносить кодовое слово для пробуждения помощника — «Алекса».

Об этом сообщила пользователь ассистента от Amazon жительница Портленда, штат Орегон, Даниэль. Она установила смарт-динамики Echo в каждой комнате своего дома.

Женщина узнала о проблеме после того, как ей позвонил один из коллег ее мужа.

«Немедленно отключите свои устройства, где используется Alexa. Вас взламывают», — сказал он.

Сначала Даниэль не поверила мужчине, но затем он сказал:

«Вы сидели и обсуждали паркетные полы».

После этого Даниэль поняла, что коллега мужа все слышал. Женщина заявила, что сразу прочувствовала всю горечь вторжения в частную жизнь таким беспардонным образом. Даниэль отметила, что больше никогда не будет пользоваться Amazon Alexa, так как доверие утрачено.

Представитель Amazon подтвердил наличие проблемы и принес свои извинения встревоженной женщине. Он отметил, что «это крайне редкое явление». Никаких объяснений, почему устройство повело себя именно так, не последовало.

Позже разработчики Amazon выпустили официальное заявление по этому поводу:

«Голосовой помощник активировался из-за слова в разговоре, которое напоминало по звучанию слово “Алекса”. После этого ассистент уловил в разговоре что-то похоже на “отправить сообщение” (в этот момент Alexa спросила “Кому”). Далее в процессе разговора помощник принял какое-то слово за имя в списке контактов клиента. В завершении Alexa попросила подтвердить отправку записи именно этому контакту, восприняв дальнейший разговор в качестве подтверждения».

Разработчики обещали свести к минимуму такие случаи, поработав над своим ассистентом.

Подпишитесь на новости

VK Tech обновил VK AI Space для работы ИИ-агентов без интернета

VK Tech выпустила версию 26.3 платформы корпоративного ИИ VK AI Space. Она объединяет семь модулей для подключения моделей, работы с базами знаний и создания ИИ-агентов. Платформу можно развернуть на оборудовании заказчика и использовать без доступа к интернету.

Агенты могут выполнять действия в корпоративных системах: обращаться к API и базам данных, работать с файлами и другими инструментами.

Платформа поддерживает многошаговые сценарии с участием нескольких агентов. Её компоненты можно использовать вместе или по отдельности.

Заказчикам доступны проверка ответов на тестовых наборах данных и ограничения на действия агентов. Можно настроить проверку запросов, ответов и вызовов инструментов. Если операция требует согласования, агент приостанавливает выполнение и запрашивает подтверждение сотрудника.

Для контроля использования платформы предусмотрены ролевое управление доступом, квоты и журнал аудита. По данным VK Tech, версия 26.3 прошла испытания по утверждённой программе и методике, включая проверку работы без внешнего сетевого доступа.

В платформе также доступны многоуровневая память, библиотеки готовых компонентов и хуки — контрольные точки для настройки поведения агентов.

RSS: Новости на портале Anti-Malware.ru