Включил смартфон — выбери ИИ: Минцифры меняет правила предустановки ПО

Включил смартфон — выбери ИИ: Минцифры меняет правила предустановки ПО

Включил смартфон — выбери ИИ: Минцифры меняет правила предустановки ПО

При первом включении смартфона россиянам могут предложить выбрать системного ИИ-помощника — отечественного, зарубежного или никакого. Минцифры РФ подготовило соответствующий проект постановления и вынесло его на общественное обсуждение.

В действующих правилах класс «голосовой помощник» хотят заменить более широким понятием — «системный помощник».

Речь идёт об ИИ-программе, которая взаимодействует с устройством, операционной системой и приложениями через голосовые, текстовые и визуальные команды. Просто поговорить о погоде уже мало, теперь помощнику предлагают дать ключи почти от всего гаджета.

При первом запуске устройства пользователь сможет выбрать программу из списка доступных решений или отказаться от её установки. Конкретный сервис, компанию или платформу проект не навязывает.

Выбранному помощнику обещают те же условия, что и встроенным решениям производителей устройств и операционных систем. Он должен получать обновления, поддерживать пользовательские настройки и отображаться в интерфейсе на равных. Предустановленная версия будет бесплатной, а после обновления или сброса устройства до заводских настроек не должна бесследно исчезать.

Изменения затронут и поисковые сервисы: в перечень смогут включать решения со встроенными технологиями искусственного интеллекта. В Минцифры считают, что это усилит конкуренцию между российскими и зарубежными платформами и сохранит пользователям доступ к современным ИИ-сервисам, даже если отдельные иностранные продукты столкнутся с ограничениями.

Идея проекта проста: производитель больше не должен единолично решать, какой ИИ поселится в смартфоне. Финальное слово хотят оставить владельцу гаджета.

Браузер OpenAI можно было заставить спамить контактам в WhatsApp

ИИ-браузеры обещали самостоятельно разбираться с рутиной, но исследователи Zenity выяснили: иногда они столь же самостоятельно начинают выполнять команды злоумышленников. Специалисты обнаружили около 20 уязвимостей в браузерах и расширениях от OpenAI, Google, Anthropic, Microsoft и Perplexity.

Самый эффектный трюк провернули с OpenAI Atlas. Исследователи разместили на поддельной странице подписки скрытые инструкции на иврите.

Они убедили агента, что тот работает в песочнице с вымышленными пользователями, после чего Atlas открыл WhatsApp Web (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России) и начал рассылать сообщение контактам владельца аккаунта.

Получился зачаток цифрового червя: один заражённый пользователь зовёт остальных на ту же страницу.

Уязвимость находилась не в WhatsApp. Атакующие обманули сам ИИ-браузер, который смешал законную просьбу пользователя с командами сайта. В Zenity называют это столкновением намерений.

Затем исследователи отправили Atlas на Amazon. Агент добавил новый адрес доставки и положил планшет в корзину, но перед оплатой упёрся в защитные ограничения OpenAI. Казалось бы, приехали. Однако Atlas попросил совершить покупку встроенного помощника Rufus, и тот послушно оплатил товар, решив, что общается с владельцем аккаунта.

Другие найденные изъяны позволяли получать доступ к локальным устройствам, красть файлы, перехватывать управление менеджером паролей и выгружать историю браузера.

В OpenAI заявили, что получили отчёт Zenity в январе и уже усилили защиту Atlas. Сам браузер компания отключит 9 августа, а новые механизмы перенесёт в браузерные функции приложения ChatGPT.

RSS: Новости на портале Anti-Malware.ru