Скрытые в музыке или YouTube команды могут обмануть голосовые помощники

Скрытые в музыке или YouTube команды могут обмануть голосовые помощники

Опубликованное на днях новое исследование доказывает, что популярные голосовые помощники, установленные в смартфонах, уязвимы для скрытых аудио-атак, которые могут быть спрятаны в музыке или видео на YouTube.

В своем исследовании специалисты утверждают, что им удалось обмануть движок с открытым исходным кодом от Mozilla DeepSpeech, эксперты скрыли команду в совершенно других звуках. Исследователи также уточнили, что подобная атака срабатывает, если скрыть команду в коротких музыкальных фрагментах.

«Я думаю, что многие злоумышленники уже взяли на вооружение данный метод обмана голосовых помощников», — говорит один из обнаруживших проблему безопасности экспертов. — «В принципе, наша команда уже давно знала, что нам удастся совершить успешную атаку на любую современную систему ассистирования голосом».

Таким образом, киебрпреступники могут заставить атакуемый девайс открыть браузер и перейти на любую веб-страницу, в том числе вредоносную.

В основе метода, предложенного исследователями, лежат различия между тем, как звуки распознает человек, и как это делает машина. Следовательно, хозяин атакуемого устройства вообще не услышит ничего необычного или подозрительного, когда его смартфон воспримет сообщение иначе, выполнив скрытую в нем команду.

Исследователи опубликовали видео, демонстрирующее наличие данной проблемы безопасности.

Многие крупные корпорации вроде Google и Apple напомнили пользователям, что их устройства защищены от подобного рода атак.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

ИИ-функции скоро могут стать доступны владельцам iPhone в Safari 18

Apple тестирует версию своего веб-браузера Safari, которая включает новый инструмент на основе искусственного интеллекта под названием Intelligent Search. Стабильный релиз Safari 18 ожидается осенью, а любители бета-версий смогут «пощупать» нововведения уже в июне.

Вот некоторые функции, которые, согласно данным Apple Insider, будут доступны в Safari 18:

  • «Интеллектуальный поиск» предоставит возможность просматривать страницы с помощью ИИ. Функция требует ручной активации в меню управления. После этого пользователи смогут получать краткое изложение веб-страниц, список ключевых тем и главных фраз. Инструмент использует технологию Ajax от Apple, которая работает локально на устройстве пользователя.
  • «Веб-ластик» для лучшей блокировки контента. Эта функция позволить пользователям удалять или стирать определенные фрагменты веб-страниц. Safari будет запоминать изменения даже после закрытия исходной вкладки или окна, поэтому юзерам не придётся настраивать всё заново.

 

  • Обновлённый пользовательский интерфейс. Он позволит свести ключевые инструменты в одно удобное место для быстрого и комфортного доступа.

 

  • Визуальный поиск. Функция с поддержкой искусственного интеллекта ожидается в 2025 году. Она позволит пользователям получать информацию о потребительских товарах по поиску изображений. Нужно лишь сделать фотографию желаемой покупки, чтобы найти магазины, в которых она продаётся.

 

Apple проявляет значительный интерес к ИИ. Ожидается, что на ежегодной конференции WWDC 10 июня компания анонсирует различные улучшения, связанные с искусственным интеллектом, в iOS 18 и macOS 15.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru