Ассистент Amazon Alexa самостоятельно записывает частные беседы

Ассистент Amazon Alexa самостоятельно записывает частные беседы

Ассистент Amazon Alexa самостоятельно записывает частные беседы

Персональный ассистент от Amazon Alexa вторгается в частную жизнь, записывая приватные семейные разговоры, а затем отправляет записанную информацию контактам в адресной книге. Причем для активации такой «фичи» не надо было даже произносить кодовое слово для пробуждения помощника — «Алекса».

Об этом сообщила пользователь ассистента от Amazon жительница Портленда, штат Орегон, Даниэль. Она установила смарт-динамики Echo в каждой комнате своего дома.

Женщина узнала о проблеме после того, как ей позвонил один из коллег ее мужа.

«Немедленно отключите свои устройства, где используется Alexa. Вас взламывают», — сказал он.

Сначала Даниэль не поверила мужчине, но затем он сказал:

«Вы сидели и обсуждали паркетные полы».

После этого Даниэль поняла, что коллега мужа все слышал. Женщина заявила, что сразу прочувствовала всю горечь вторжения в частную жизнь таким беспардонным образом. Даниэль отметила, что больше никогда не будет пользоваться Amazon Alexa, так как доверие утрачено.

Представитель Amazon подтвердил наличие проблемы и принес свои извинения встревоженной женщине. Он отметил, что «это крайне редкое явление». Никаких объяснений, почему устройство повело себя именно так, не последовало.

Позже разработчики Amazon выпустили официальное заявление по этому поводу:

«Голосовой помощник активировался из-за слова в разговоре, которое напоминало по звучанию слово “Алекса”. После этого ассистент уловил в разговоре что-то похоже на “отправить сообщение” (в этот момент Alexa спросила “Кому”). Далее в процессе разговора помощник принял какое-то слово за имя в списке контактов клиента. В завершении Alexa попросила подтвердить отправку записи именно этому контакту, восприняв дальнейший разговор в качестве подтверждения».

Разработчики обещали свести к минимуму такие случаи, поработав над своим ассистентом.

Энтузиаст запустил чат-бот на процессоре Z80 1976 года

Легендарный процессор Zilog Z80, которому в этом году почти 50 лет, внезапно получил собственный «ИИ». Разработчик под ником HarryR представил проект Z80-μLM — крошечную «разговорную модель», которая реально работает на 8-битном Z80 с 64 КБ памяти.

Сразу расставим точки над i: тест Тьюринга этот ИИ не пройдёт, мир не захватит и цены на Z80 из-за него не взлетят. Сам автор честно говорит, что это эксперимент и «развлечение для души». Но эксперимент крайне изящный, именно этим он и цепляет.

Z80-μLM — это минималистичная «разговорная ИИ-модель», которая генерирует ответы посимвольно. Вся система, включая инференс и простой чат-интерфейс, уместилась примерно в 40 КБ. Для наглядности: это обычный .COM-файл, который спокойно запускается в CP/M и помещается в стандартную область памяти TPA.

Внутри сплошная инженерная магия старой школы. Никаких чисел с плавающей точкой, только целочисленная арифметика, заточенная под возможности Z80. Веса квантованы до 2 бит (значения от −2 до +1), четыре веса упакованы в один байт.

Входной текст кодируется через хеширование триграмм в 128 «корзин» — это делает модель устойчивой к опечаткам и нечувствительной к порядку слов. Всё максимально просто, жёстко и эффективно.

HarryR подчёркивает, что его цель была не «ум», а минимальный размер при сохранении ощущения характера. И, как ни странно, это работает. Ответы у чат-бота короткие, иногда нарочито сухие или уклончивые:

  • OK — нейтральное подтверждение,
  • WHY? — сомнение в вашем вопросе,
  • R U? — философский ответ с намёком,
  • MAYBE — честная неопределённость,
  • AM I? — вопрос в ответ.

Из-за этой лаконичности общение превращается в своеобразную игру: приходится угадывать, «понял» ли бот вопрос, и достраивать смысл самому. И тут невольно ловишь себя на мысли, что мозг начинает приписывать этой кучке байтов некую личность. Или это просто классическая человеческая склонность к антропоморфизму — вопрос открытый.

В проекте есть два готовых примера. Первый — Tinychat, простой чат-бот, который отвечает на приветствия и вопросы о себе. Второй — Guess, вариация игры «20 вопросов», где модель загадывает нечто, а пользователь пытается это угадать. Оба варианта доступны в виде готовых бинарников: для CP/M — стандартные .COM-файлы, для ZX Spectrum — .TAP-образы кассет, которые можно загрузить в эмулятор или даже на реальное железо.

Отдельная ирония ситуации в том, что Z80 как раз недавно официально отправили «на пенсию». В апреле 2024 года Zilog объявила о прекращении поддержки чипа (PDF) из-за закрытия производства на стороне фабрики. Правда, почти сразу энтузиасты взялись за замену, и в рамках проекта Tiny Tapeout появился рабочий совместимый клон.

RSS: Новости на портале Anti-Malware.ru