NUIT: эксперты показали атаку на топовых голосовых помощников

NUIT: эксперты показали атаку на топовых голосовых помощников

NUIT: эксперты показали атаку на топовых голосовых помощников

Исследователи из Американского университета разработали новый вектор атаки, получивший название «Near-Ultrasound Inaudible Trojan» (NUIT). Он направлен на устройства, оснащённые голосовыми помощниками: смартфоны, «умные» колонки и другие IoT-девайсы.

В своём отчёте специалисты продемонстрировали, как NUIT работает против современных голосовых помощников, установленных на миллионах устройств. Сюда вошла и Siri от Apple, и Google Assistant, а также Cortana от Microsoft и Alexa от Amazon.

Основная опасность NUIT заключается во взаимодействии со встроенным микрофоном атакуемого девайса. Как правило, такие микрофоны могут реагировать на ультразвуковые волны, которые недоступны человеческому уху. Это позволяет провести атаку максимально незаметно для жертвы и использовать при этом обычный динамик.

Как объясняют исследователи, NUIT можно реализовать на веб-сайтах, воспроизводящих медиафайлы или YouTube-видео. В этом случае остаётся заставить пользователя посетить такой ресурс.

В целом существует два метода запуска атаки NUIT:

  1. NUIT-1 — когда девайс является одновременно источником и целью атаки. Например, злоумышленник проигрывает аудиофайл на смартфоне жертвы и таким образом заставляет устройство совершить определённое действие (открыть дверь гаража или отправить текстовое сообщение).
  2. NUIT-2 — когда атака запускается на одном девайсе, а целью является другой.

«Если вы способны посмотреть YouTube-видео на своём “умном“ телевизоре, значит, у него есть динамики. Звук вредоносных команд NUIT не будет слышен вам, но при этом сможет дойти до мобильного телефона и взаимодействовать с голосовыми помощниками», — рассказывает один из экспертов.

«Такую атаку можно запустить даже посредством Zoom во время видеовстреч. Некий злоумышленник может внедрить сигнал атаки и взломать телефон собеседника».

На демонстрацию NUIT можно посмотреть на выложенных видеороликах:

Подпишитесь на новости

В России сформулировали главную проблему ИИ — у него нет страха

Искусственному интеллекту не хватает страха перед ошибкой. Такую мысль высказал заместитель главы Минцифры России Александр Шойтов на конференции BIS Summit, посвящённой информационной безопасности бизнеса и ИТ.

«В ИИ нужно встроить систему страха, чтобы он боялся совершить ошибку, как человек», — заявил Шойтов в ходе дискуссии.

Речь, конечно, не о дрожащей нейросети, которая перед каждым ответом вспоминает ипотеку и разговор с начальником. Под страхом можно понимать встроенный механизм сомнения: способность модели оценивать последствия своих действий, признавать нехватку данных и останавливаться, если цена ошибки слишком высока.

Сейчас генеративный ИИ способен уверенно выдавать неверные ответы, придумывать факты и выполнять опасные команды без человеческого ощущения риска.

Для обычного чат-бота это заканчивается галлюцинацией, а для ИИ-агента с доступом к корпоративным системам — удалёнными файлами, утечкой данных или нарушением работы инфраструктуры.

На BIS Summit прозвучала и ещё более амбициозная идея — встроить в ИИ-модели совесть. Её озвучил Николай Лишин, заместитель руководителя ФМБА России. Если страх должен удерживать систему от ошибки, то совесть, по такой логике, должна помогать оценивать допустимость самого действия.

Получается своеобразный технический портрет идеального ИИ: достаточно умный, чтобы решить задачу, достаточно напуганный, чтобы всё перепроверить, и достаточно совестливый, чтобы вовремя отказаться. Осталось только написать для этого техническое задание.

RSS: Новости на портале Anti-Malware.ru