Браузер OpenAI можно было заставить спамить контактам в WhatsApp

Браузер OpenAI можно было заставить спамить контактам в WhatsApp

Браузер OpenAI можно было заставить спамить контактам в WhatsApp

ИИ-браузеры обещали самостоятельно разбираться с рутиной, но исследователи Zenity выяснили: иногда они столь же самостоятельно начинают выполнять команды злоумышленников. Специалисты обнаружили около 20 уязвимостей в браузерах и расширениях от OpenAI, Google, Anthropic, Microsoft и Perplexity.

Самый эффектный трюк провернули с OpenAI Atlas. Исследователи разместили на поддельной странице подписки скрытые инструкции на иврите.

Они убедили агента, что тот работает в песочнице с вымышленными пользователями, после чего Atlas открыл WhatsApp Web (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России) и начал рассылать сообщение контактам владельца аккаунта.

Получился зачаток цифрового червя: один заражённый пользователь зовёт остальных на ту же страницу.

Уязвимость находилась не в WhatsApp. Атакующие обманули сам ИИ-браузер, который смешал законную просьбу пользователя с командами сайта. В Zenity называют это столкновением намерений.

Затем исследователи отправили Atlas на Amazon. Агент добавил новый адрес доставки и положил планшет в корзину, но перед оплатой упёрся в защитные ограничения OpenAI. Казалось бы, приехали. Однако Atlas попросил совершить покупку встроенного помощника Rufus, и тот послушно оплатил товар, решив, что общается с владельцем аккаунта.

Другие найденные изъяны позволяли получать доступ к локальным устройствам, красть файлы, перехватывать управление менеджером паролей и выгружать историю браузера.

В OpenAI заявили, что получили отчёт Zenity в январе и уже усилили защиту Atlas. Сам браузер компания отключит 9 августа, а новые механизмы перенесёт в браузерные функции приложения ChatGPT.

ИИ нашёл борщевик и выписал владельцу участка штраф на 150 тысяч рублей

Борщевик Сосновского в Подмосковье вышел на новый уровень цифровой известности. Владельца частного участка впервые оштрафовали по результатам мониторинга с помощью беспилотника и искусственного интеллекта, сообщило областное Министерство сельского хозяйства и продовольствия.

Нарушение обнаружили в Рузском муниципальном округе. Дрон провёл съёмку территории, а система на основе ИИ проанализировала данные и распознала опасное растение.

После этого она сформировала постановление и отправила уведомление владельцу через Госуслуги. Получателем цифрового привета стало юридическое лицо, которому назначили штраф в размере 150 тыс. рублей.

До сих пор заросли борщевика на частных землях нередко оставались проблемой из категории это не наше поле. Между тем около 70% жалоб жителей региона на опасное растение относятся именно к таким участкам. Теперь спрятать ботанический беспорядок за высоким забором будет сложнее: беспилотнику всё равно, а ИИ не боится обжечься.

Пилотный проект позволяет не только находить заросли, но и устанавливать собственников земли, после чего запускать процедуру привлечения к ответственности. Опыт Рузского округа власти рассматривают как основу для внедрения цифрового мониторинга в других муниципалитетах Подмосковья.

Параллельно регион продолжает уничтожать борщевик на муниципальных территориях. Первый этап обработки завершили на площади около 23,5 тыс. га, во время второго повторно обработали более 18,3 тыс. га. Полностью закончить работы планируется до конца августа.

RSS: Новости на портале Anti-Malware.ru