Meta раскрывает личные чаты с ИИ — Mozilla бьёт тревогу

Meta раскрывает личные чаты с ИИ — Mozilla бьёт тревогу

Meta раскрывает личные чаты с ИИ — Mozilla бьёт тревогу

Meta (признана экстремистской и запрещена в России) опять вляпалась в историю. В апреле они выкатили приложение Meta AI с «лентой открытий» (Discover feed), где можно смотреть чужие ИИ-запросы — дескать, вдохновляться, делиться своими, ремиксить чужие. Выглядит креативно, но…

Спустя пару дней журналисты заметили, что в этой ленте полно очень личных запросов.

Кто-то рассказывал про больную черепаху, кто-то спрашивал, как засудить бывшего работодателя, а кто-то интересовался фолиевой кислотой для женщин в менопаузе. Вишенка на торте — вопросы по страховке Blue Cross.

Meta (признана экстремистской и запрещена в России) утверждает, что ничего не публикуется без нажатия кнопки «поделиться». Но, похоже, далеко не все понимают, что на самом деле происходит. И теперь Mozilla бьёт тревогу.

«Meta тихо превращает приватные ИИ-чаты в публичный контент, и слишком много людей об этом не догадываются», — говорится в официальном заявлении Mozilla Foundation.

Чего требует Mozilla:

  • Немедленно отключить Discover feed до появления адекватных механизмов приватности.
  • Сделать все ИИ-сессии по умолчанию приватными. И только по чёткому, информированному согласию — опубликовывать.
  • Рассказать, сколько человек уже случайно «слили» свои данные.
  • Ввести понятную и универсальную систему «отписки» от использования пользовательских данных в обучении ИИ.
  • Уведомить всех, чьи чаты стали публичными, и дать им возможность удалить всё навсегда.

Mozilla прямо говорит: Meta стирает границы между личным и публичным, и делает это за наш счёт. Люди имеют право знать, когда они говорят на публике, особенно если уверены, что разговаривают наедине с ботом.

Если вы согласны, Mozilla предлагает подписать обращение с требованием закрыть «вторгающуюся» ленту Meta и гарантировать приватность по умолчанию.

Контроллер памяти AMD научили обходить аппаратную изоляцию

Исследователь Кристофер Домас опубликовал PoC-проект skitter-creek-bath-salts, демонстрирующий обход аппаратной защиты памяти на процессорах AMD Family 16h. Техника манипулирует настройками контроллера DRAM и позволяет обращаться к областям, которые должны быть недоступны даже операционной системе, ядру и коду с привилегиями ring 0.

Обычно программные и аппаратные механизмы контролируют доступ по физическим адресам.

Но последнюю точку в маршруте ставит контроллер памяти: он переводит адрес в конкретные координаты DRAM — канал, ранг, банк, строку и столбец.

Домас показал, что изменение одного регистра может перенастроить это преобразование уже после срабатывания вышестоящих средств защиты. В результате появляется альтернативный адрес, ведущий к тем же ячейкам DRAM. Охраняемый вход остаётся заперт, но контроллер внезапно рисует вторую дверь прямо в стене.

 

Чтобы система не рухнула, PoC отключает прерывания, подготавливает кеш и таблицы трансляции, ненадолго меняет схему адресации, читает или записывает нужные данные, а затем возвращает исходные настройки.

Для поиска адресов-двойников проект использует линейную алгебру и SMT-решатель Z3. Инструменты восстанавливают связь между обычным и изменённым отображением памяти, после чего вычисляют алиас для защищённой области.

Исследователь продемонстрировал потенциальный доступ к памяти AMD Platform Security Processor, включая данные fTPM, защищённой области System Management Mode, состояниям процессора C6 и хранилищу микрокода. Последний сценарий допускает не только извлечение копии патча, но и её возможное изменение перед восстановлением состояния ядра.

PoC проверяли только на AMD Family 16h. Данных об аналогичной уязвимости в новых AMD, Intel, ARM или RISC-V нет.

RSS: Новости на портале Anti-Malware.ru