Браузер OpenAI можно было заставить спамить контактам в WhatsApp

Браузер OpenAI можно было заставить спамить контактам в WhatsApp

Браузер OpenAI можно было заставить спамить контактам в WhatsApp

ИИ-браузеры обещали самостоятельно разбираться с рутиной, но исследователи Zenity выяснили: иногда они столь же самостоятельно начинают выполнять команды злоумышленников. Специалисты обнаружили около 20 уязвимостей в браузерах и расширениях от OpenAI, Google, Anthropic, Microsoft и Perplexity.

Самый эффектный трюк провернули с OpenAI Atlas. Исследователи разместили на поддельной странице подписки скрытые инструкции на иврите.

Они убедили агента, что тот работает в песочнице с вымышленными пользователями, после чего Atlas открыл WhatsApp Web (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России) и начал рассылать сообщение контактам владельца аккаунта.

Получился зачаток цифрового червя: один заражённый пользователь зовёт остальных на ту же страницу.

Уязвимость находилась не в WhatsApp. Атакующие обманули сам ИИ-браузер, который смешал законную просьбу пользователя с командами сайта. В Zenity называют это столкновением намерений.

Затем исследователи отправили Atlas на Amazon. Агент добавил новый адрес доставки и положил планшет в корзину, но перед оплатой упёрся в защитные ограничения OpenAI. Казалось бы, приехали. Однако Atlas попросил совершить покупку встроенного помощника Rufus, и тот послушно оплатил товар, решив, что общается с владельцем аккаунта.

Другие найденные изъяны позволяли получать доступ к локальным устройствам, красть файлы, перехватывать управление менеджером паролей и выгружать историю браузера.

В OpenAI заявили, что получили отчёт Zenity в январе и уже усилили защиту Atlas. Сам браузер компания отключит 9 августа, а новые механизмы перенесёт в браузерные функции приложения ChatGPT.

Детские смарт-часы оказались карманным шпионом для хакеров

GPS-часы должны помогать родителям следить за ребёнком. Но исследователи Вангелис Стикас и Фелипе Солферини показали, что некоторые модели охотно следят и за самим владельцем — причём в интересах любого, кто доберётся до дырявой платформы.

Во время эксперимента специалисты взломали детские смарт-часы стоимостью менее 30 долларов, которые носил журналист WIRED.

Исследователи отслеживали его маршрут, незаметно делали снимки встроенной камерой и включали микрофон. Устройство при этом не подавало никаких признаков слежки. Очень заботливый гаджет — только непонятно, о ком именно он заботится.

 

Проблема оказалась куда шире одной розовой безделушки. Исследователи изучили более 70 GPS-часов и автомобильных трекеров. Свыше 60 брендов использовали инфраструктуру двух китайских платформ — SETracker и NewGPS2012. Вместе с SinoTrack на три цепочки поставок приходятся десятки миллионов устройств.

 

 

В некоторых случаях защита была настолько условной, что отсутствие нормальной аутентификации позволяло отправлять команды практически любому гаджету. Злоумышленник мог отслеживать или подменять геолокацию, перехватывать сообщения, менять экстренные контакты, включать микрофон, камеру и видеозапись.

 

У SinoTrack исследователи также обнаружили демонстрационную учётную запись с доступом к миллионам устройств и SQL-инъекцию, открывавшую сведения о местоположении, паролях и автомобилях. В NewGPS2012 похожие уязвимости позволяли выполнять код на серверах. Специалисты заметили и признаки того, что инфраструктуру могли взломать раньше них.

Представитель SETracker заявил, что проблемы устранены. Незадолго до выступления исследователей на Black Hat прежние методы атаки действительно перестали работать, однако полноту исправлений подтвердить не удалось. В SinoTrack и NewGPS2012 уязвимости, по их данным, всё ещё сохраняются.

RSS: Новости на портале Anti-Malware.ru