Яндекс опроверг прослушку Алисой

Яндекс опроверг прослушку Алисой

Яндекс опроверг прослушку Алисой

Яндекс” никогда не прослушивал пользователей “умных” устройств, заявили в ИТ-корпорации. Оправдываться пришлось после того, как в Сеть попал торрент с исходным кодом сервисов Яндекса. В компании подчеркивают: алгоритм, когда микрофон включается без упоминания “Алисы”, работает только в бета-версии.

Хронология громкой истории с “открывшимся” кодом Яндекса выглядит так:

25 января бывший сотрудник “Яндекса” выкладывает в Сеть 45 ГБ внутреннего репозитория корпорации. Раздача содержит отдельные архивы (.tar.bz2), по названиям которых можно определить сервисы: “Яндекс Карты”, поиск, “Яндекс Такси”, “Яндекс Почту”, голосового помощника “Алису”, “Яндекс Маркет”, “Яндекс Go” и платежный сервис Yandex Pay.

26 января “Яндекс” подтверждает факт утечки, заверив, что “слив” не содержит персональных данных пользователей, а его содержимое — устаревшая версия репозитория.

30 января “Яндекс” публикует внутреннее расследование инцидента и приносит извинение за нарушение ИБ-политик и техноэтики.

Оказалось, что слитый архив содержит данные водителей “Яндекс Такси”, ошибки в системе часто исправляли в ручном режиме, а не алгоритмами, а сами айтишники позволяли себе оскорбительные и расистские комментарии во внутренней переписке.

Среди прочего выделялся тревожный пункт с “умной” колонкой “Алиса”. В бета-версии устройство включалось в случайный момент времени без уведомления о своем присутствии.

“Важно отметить, что опубликованные фрагменты кода содержат в том числе и тестовые алгоритмы, которые использовались только внутри Яндекса для проверки корректности работы сервисов. Например, для улучшения качества активации ассистента и уменьшения количества ложных срабатываний в бета-версии для сотрудников применяется настройка, которая включает микрофон устройства на несколько секунд в случайный момент без упоминания Алисы”, — цитата сообщения Яндекса.

В прессе стали писать, что в этом контексте “Алиса” могла включаться и в финальной версии устройства, поступающего в продажу. Такое предположение сделал накануне и Anti-Malware.ru.

Яндексу снова пришлось выступать с комментариями.

“Наш приоритет — удобство пользователей, поэтому мы используем “бету” для проверки продуктовых гипотез”, — заявил представитель Яндекса изданию РБК.

По его словам, алгоритм “молчаливого включения” Алисы работает только в “бете”, и “результатом его работы является уменьшение количества ложных срабатываний ассистента для всех пользователей”.

Добавим, западные эксперты, в свою очередь, обратили внимание на то, что SEO-алгоритмы в исходном коде Яндекса схожи с факторами ранжирования в поисковике Google. А по словам одного из специалистов, “слив кода Яндекса — вероятно, самое интересное, что произошло в SEO за долгие годы”.

Пресс-служба Яндекс направила в редакцию Anti-Malware.ru расширенный комментарий:

«Яндекс никогда не прослушивал пользователей “умных устройств". Как мы писали ранее в пресс-релизе, опубликованные фрагменты кода применяются только в бета-версии голосового помощника для записи нескольких секунд звука в случайный момент. В бете могут участвовать только сотрудники Яндекса и их устройства. Если микрофон на устройстве выключен кнопкой mute, запись невозможна даже в бете.

Наш приоритет — удобство пользователей, поэтому мы используем бету для проверки продуктовых гипотез. Данный алгоритм работает только в бете, и результатом его работы является уменьшение количества ложных срабатываний ассистента для всех пользователей».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Вредонос PROMPTFLUX обращается к ИИ Gemini, чтобы менять свой код

Google сообщила о новой экспериментальной вредоносной программе, использующей искусственный интеллект для изменения собственного кода и сокрытия в целевой системе. Речь идет о PROMPTFLUX — вредоносном скрипте на VB Script, который взаимодействует с API Gemini, запрашивая у модели варианты обфускации и обхода антивирусных систем.

Как пояснили специалисты из Google Threat Intelligence Group (GTIG), PROMPTFLUX обращается к Gemini 1.5 Flash (и более поздним версиям), чтобы получать обновлённый код, способный обойти сигнатурное обнаружение.

Вредоносный скрипт использует встроенный API-ключ для отправки запросов напрямую к API Gemini и сохраняет новые версии в папке автозагрузки Windows.

Интересно, что внутри скрипта есть функция саморегенерации — AttemptToUpdateSelf. Хотя она закомментирована и неактивна, наличие логов взаимодействия с ИИ в файле thinking_robot_log.txt говорит о том, что авторы планируют создать «саморазвивающийся» вредоносный код.

 

Google отмечает, что существует несколько вариаций PROMPTFLUX, и в одной из них ИИ получает задачу полностью переписывать код скрипта каждый час. Однако на данный момент программа находится на стадии разработки и не способна заражать устройства. Судя по всему, за проектом стоит группа с финансовой мотивацией, а не государственные хакеры.

Некоторые эксперты, впрочем, считают, что история преувеличена. Исследователь Марк Хатчинс (Marcus Hutchins) заявил, что PROMPTFLUX не демонстрирует реальных признаков «умного» поведения:

«Модель Gemini не знает, как обходить антивирусы. Кроме того, код не имеет механизмов, гарантирующих уникальность или стабильность работы. А функция модификации кода даже не используется».

Тем не менее специалисты Google предупреждают, что злоумышленники активно экспериментируют с использованием ИИ не только для автоматизации задач, но и для создания вредоносных инструментов, которые способны адаптироваться «на лету».

Среди других примеров ИИ-вредоносов, обнаруженных Google, упоминаются:

  • FRUITSHELL — обратная оболочка на PowerShell, обученная обходить системы на основе LLM;
  • PROMPTLOCK — кросс-платформенный вымогатель на Go, использующий LLM для генерации вредоносных скриптов на Lua;
  • PROMPTSTEAL (LAMEHUG) — инструмент, применявшийся группировкой APT28 для атак на Украину;
  • QUIETVAULT — JavaScript-зловред, крадущий токены GitHub и NPM.
AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru