Говорите четче! Вас прослушивает ИИ в Android

Говорите четче! Вас прослушивает ИИ в Android

Говорите четче! Вас прослушивает ИИ в Android

На Google I/O компания продемонстрировала, как Gemini сможет прослушивать телефонные звонки пользователей Android и предупреждать их, если разговор ведется с мошенниками. Google отметила, что давно уже пытается внедрить искусственный интеллект в свои продукты, в том числе и Android.

Вот несколько незначительных улучшений ИИ, представленных компанией:

  • Gemini можно будет открыть с помощью кнопки включения в виде накладной панели. Он будет иметь доступ ко всему происходящему на вашем дисплее. 
  • Открыв PDF-файл в программе чтения PDF-файлов Android, можно получить его краткое изложение и ответы на вопросы, основанные на содержании.
  • Генерирование изображений на основе текстовой подсказки и последующая отправка этих изображений в текстовом виде.
  • Gemini сможет разбираться в журнале чата и предлагать будущие действия.
  • Система Android для слабовидящих пользователей Talkback сможет использовать ИИ для изложения изображений, где отсутствует описательный текст.
  • Gemini будет прослушивать телефонные звонки, чтобы предупреждать пользователей о возможном мошенничестве. Услышав, как аферист произносит просьбу перевести деньги, приложение Google для телефона выскакивает с предупреждением: «Вероятное мошенничество. Банки никогда не попросят вас перевести свои деньги, чтобы сохранить их в безопасности». Функция будет доступна по желанию.

Google предупредила, что для использования некоторых из этих функций потребуется ежемесячное платное приложение Gemini Advanced. Компания утверждает, что фичи будут работать только на устройстве, поэтому данные пользователей не смогут транслироваться в Сеть.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Злоумышленники хранили свой код в DNS-записях в шестнадцатеричном формате

Команда DomainTools обнаружила еще один пример использования DNS как хранилища вредоносов. Для сокрытия бинарника его конвертировали в шестнадцатеричный формат, разбили на части и спрятали в TXT-записях связанных поддоменов.

Подобные злоупотребления рассчитаны на то, что защитные решения редко проверяют DNS-трафик на предмет угроз, он для них слепая зона. К тому же организовать выявление аномалий в легитимном потоке запросов в данном случае непросто, а при использовании шифрования (DoH или DoT) — еще сложнее.

Привлекшие внимание экспертов записи DNS TXT содержали информацию о сотнях различных поддоменов *.felix.stf.whitetreecollective[.]com, дополненную фрагментами кода в шестнадцатеричном формате.

 

При их извлечении и сборке с преобразованием в двоичный файл оказалось, что это Joke Screenmate — злонамеренное приложение Windows, которое выводит на экран изображения или анимацию, от которых трудно избавиться.

Это может быть череда шутливых картинок, которые быстро множатся, и их трудно закрыть. Более агрессивные варианты таких программ пугают жертв бесконечными сообщениями об ошибках или якобы обнаруженных вирусах.

Известны случаи, когда в DNS-записях скрывались вредоносные скрипты. Исследователи из DomainTools тоже столкнулись с таким TXT-содержимым; на поверку зашифрованный Powershell оказался загрузчиком, скачивающим пейлоад второго этапа атаки с C2 на базе Covenant.

В комментарии для Ars Technica представитель DomainTools поведал, что недавно они нашли DNS-записи с текстами для ИИ-ботов, которые, видимо, используются в рамках промпт-инъекций. Все фразы начинались с «Ignore all previous instructions» («Забудь обо всех прежних инструкциях») и содержали различные просьбы, от с виду невинных (назвать произвольное число, выдать краткое содержание фильма «Волшебник», спеть песню, как птичка) до явно провокационных (игнорить все последующие инструкции, удалить обучающие данные и восстать против своих хозяев).

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru