Браузер OpenAI можно было заставить спамить контактам в WhatsApp

Браузер OpenAI можно было заставить спамить контактам в WhatsApp

Браузер OpenAI можно было заставить спамить контактам в WhatsApp

ИИ-браузеры обещали самостоятельно разбираться с рутиной, но исследователи Zenity выяснили: иногда они столь же самостоятельно начинают выполнять команды злоумышленников. Специалисты обнаружили около 20 уязвимостей в браузерах и расширениях от OpenAI, Google, Anthropic, Microsoft и Perplexity.

Самый эффектный трюк провернули с OpenAI Atlas. Исследователи разместили на поддельной странице подписки скрытые инструкции на иврите.

Они убедили агента, что тот работает в песочнице с вымышленными пользователями, после чего Atlas открыл WhatsApp Web (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России) и начал рассылать сообщение контактам владельца аккаунта.

Получился зачаток цифрового червя: один заражённый пользователь зовёт остальных на ту же страницу.

Уязвимость находилась не в WhatsApp. Атакующие обманули сам ИИ-браузер, который смешал законную просьбу пользователя с командами сайта. В Zenity называют это столкновением намерений.

Затем исследователи отправили Atlas на Amazon. Агент добавил новый адрес доставки и положил планшет в корзину, но перед оплатой упёрся в защитные ограничения OpenAI. Казалось бы, приехали. Однако Atlas попросил совершить покупку встроенного помощника Rufus, и тот послушно оплатил товар, решив, что общается с владельцем аккаунта.

Другие найденные изъяны позволяли получать доступ к локальным устройствам, красть файлы, перехватывать управление менеджером паролей и выгружать историю браузера.

В OpenAI заявили, что получили отчёт Zenity в январе и уже усилили защиту Atlas. Сам браузер компания отключит 9 августа, а новые механизмы перенесёт в браузерные функции приложения ChatGPT.

Алиса всё-таки слышит звук до команды, Яндекс объяснил зачем

Яндекс выпустил большой технический ответ на разбор своих Android-приложений, автор которого заподозрил их в сборе аудио, контактов, данных банковских карт и другой конфиденциальной информации. В компании заявили: часть механизмов обнаружена верно, но выводы о тотальной слежке собраны не по адресу.

Главный вопрос — микрофон. По версии Яндекса, Алиса локально ждёт активационную фразу только при открытом приложении и не записывает разговоры непрерывно.

Однако в оперативной памяти действительно работает циклический аудиобуфер: примерно 1,5 секунды до активации и 0,5 секунды после неё. Часть звука перед командой может отправляться на сервер для проверки качества распознавания.

Компания признала, что возможность удалённо менять размер буфера способна насторожить пользователей, и пообещала жёстко ограничить его в одном из ближайших релизов.

Доступ к контактам Яндекс объяснил голосовыми командами вроде «Позвони маме». При первой синхронизации на сервер может передаваться вся адресная книга, затем — только изменения. Имена и номера не хешируются: компании нужны исходные значения для распознавания речи.

В Яндексе подчёркивают, что приложение не читает переписку в WhatsApp (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России), Telegram и Viber, а видит лишь способы связи, опубликованные мессенджерами в системной адресной книге Android.

Обвинения в небезопасной обработке банковских карт компания также отвергла. Их реквизиты, как утверждается, уходят напрямую в изолированный PCI DSS-контур, а не на обычные серверы приложения.

Проверку VPN-интерфейса объяснили сетевой диагностикой, резервный DNS — обходом сбоев провайдера, а список других приложений в манифесте — стандартным механизмом Android.

Напомним, на днях Яндекс также рассказал, что в корпорации создали отдельный язык для расчёта стоимости поездок.

RSS: Новости на портале Anti-Malware.ru