Скрытые в музыке или YouTube команды могут обмануть голосовые помощники

Скрытые в музыке или YouTube команды могут обмануть голосовые помощники

Скрытые в музыке или YouTube команды могут обмануть голосовые помощники

Опубликованное на днях новое исследование доказывает, что популярные голосовые помощники, установленные в смартфонах, уязвимы для скрытых аудио-атак, которые могут быть спрятаны в музыке или видео на YouTube.

В своем исследовании специалисты утверждают, что им удалось обмануть движок с открытым исходным кодом от Mozilla DeepSpeech, эксперты скрыли команду в совершенно других звуках. Исследователи также уточнили, что подобная атака срабатывает, если скрыть команду в коротких музыкальных фрагментах.

«Я думаю, что многие злоумышленники уже взяли на вооружение данный метод обмана голосовых помощников», — говорит один из обнаруживших проблему безопасности экспертов. — «В принципе, наша команда уже давно знала, что нам удастся совершить успешную атаку на любую современную систему ассистирования голосом».

Таким образом, киебрпреступники могут заставить атакуемый девайс открыть браузер и перейти на любую веб-страницу, в том числе вредоносную.

В основе метода, предложенного исследователями, лежат различия между тем, как звуки распознает человек, и как это делает машина. Следовательно, хозяин атакуемого устройства вообще не услышит ничего необычного или подозрительного, когда его смартфон воспримет сообщение иначе, выполнив скрытую в нем команду.

Исследователи опубликовали видео, демонстрирующее наличие данной проблемы безопасности.

Многие крупные корпорации вроде Google и Apple напомнили пользователям, что их устройства защищены от подобного рода атак.

Энтузиаст запустил чат-бот на процессоре Z80 1976 года

Легендарный процессор Zilog Z80, которому в этом году почти 50 лет, внезапно получил собственный «ИИ». Разработчик под ником HarryR представил проект Z80-μLM — крошечную «разговорную модель», которая реально работает на 8-битном Z80 с 64 КБ памяти.

Сразу расставим точки над i: тест Тьюринга этот ИИ не пройдёт, мир не захватит и цены на Z80 из-за него не взлетят. Сам автор честно говорит, что это эксперимент и «развлечение для души». Но эксперимент крайне изящный, именно этим он и цепляет.

Z80-μLM — это минималистичная «разговорная ИИ-модель», которая генерирует ответы посимвольно. Вся система, включая инференс и простой чат-интерфейс, уместилась примерно в 40 КБ. Для наглядности: это обычный .COM-файл, который спокойно запускается в CP/M и помещается в стандартную область памяти TPA.

Внутри сплошная инженерная магия старой школы. Никаких чисел с плавающей точкой, только целочисленная арифметика, заточенная под возможности Z80. Веса квантованы до 2 бит (значения от −2 до +1), четыре веса упакованы в один байт.

Входной текст кодируется через хеширование триграмм в 128 «корзин» — это делает модель устойчивой к опечаткам и нечувствительной к порядку слов. Всё максимально просто, жёстко и эффективно.

HarryR подчёркивает, что его цель была не «ум», а минимальный размер при сохранении ощущения характера. И, как ни странно, это работает. Ответы у чат-бота короткие, иногда нарочито сухие или уклончивые:

  • OK — нейтральное подтверждение,
  • WHY? — сомнение в вашем вопросе,
  • R U? — философский ответ с намёком,
  • MAYBE — честная неопределённость,
  • AM I? — вопрос в ответ.

Из-за этой лаконичности общение превращается в своеобразную игру: приходится угадывать, «понял» ли бот вопрос, и достраивать смысл самому. И тут невольно ловишь себя на мысли, что мозг начинает приписывать этой кучке байтов некую личность. Или это просто классическая человеческая склонность к антропоморфизму — вопрос открытый.

В проекте есть два готовых примера. Первый — Tinychat, простой чат-бот, который отвечает на приветствия и вопросы о себе. Второй — Guess, вариация игры «20 вопросов», где модель загадывает нечто, а пользователь пытается это угадать. Оба варианта доступны в виде готовых бинарников: для CP/M — стандартные .COM-файлы, для ZX Spectrum — .TAP-образы кассет, которые можно загрузить в эмулятор или даже на реальное железо.

Отдельная ирония ситуации в том, что Z80 как раз недавно официально отправили «на пенсию». В апреле 2024 года Zilog объявила о прекращении поддержки чипа (PDF) из-за закрытия производства на стороне фабрики. Правда, почти сразу энтузиасты взялись за замену, и в рамках проекта Tiny Tapeout появился рабочий совместимый клон.

RSS: Новости на портале Anti-Malware.ru