Надежность iPhone и macOS-устройств повышена за счет ИИ и привязки к облаку

Надежность iPhone и macOS-устройств повышена за счет ИИ и привязки к облаку

Надежность iPhone и macOS-устройств повышена за счет ИИ и привязки к облаку

В рамках конференции WWDC 2024 Apple анонсировала бета-версии iOS 18, iPad OS 18 и macOS Sequoia и рассказала о новшествах, призванных повысить безопасность и приватность пользователей платформ. Новые функции станут общедоступными осенью этого года.

Наиболее значимыми нововведениями являются персональный ИИ-помощник и возможность использования облачных вычислений с сохранением конфиденциальности данных.

Адаптивная система Apple Intelligence учитывает личный контекст, упрощая работу с Safari и такими приложениями, как «Сообщения», «Почта», «Заметки», «Календарь». При этом получение доступа к данным, по словам Apple, не нарушает конфиденциальности пользователя.

Карманный ИИ работает в основном локально, но, получив запрос, требующих дополнительных вычислительных мощностей, отправляет данные в облако через сервис Private Cloud Compute. Примечательно, что при этом отсылаются только сведения, необходимые для выполнения конкретной задачи; сохранение этой информации обработка в кластере не предполагает.

Ключи шифрования хранятся на этих серверах, как и на iPhone, в защищенном репозитории; в режиме безопасной загрузки ОС выполняются проверка подписи кода и верификация. Таким же образом защищены остальные коды, за этим следит специальный контролер (Trusted Execution Monitor). При подключении устройство юзера безопасным образом идентифицирует кластер, а затем уже передает запрос.

Голосовой помощник Siri тоже получил ИИ-апдейт: в него встроена поддержка GPT-4o. Он стал умнее, научился печатать, править запросы в реальном времени, поддерживать общение в контексте.

Свой смартфон теперь можно будет спокойно передавать в другие руки и не бояться, что окружающие увидят на экране то, что не предназначено для чужих глаз. В этом помогут функции блокировки и сокрытия приложений; в последнем случае они перемещаются в особую папку, которую можно открыть только по Face ID, Touch ID или пасс-коду.

Введена дифференциация разрешений на доступ программ к адресной книге: пользователь сможет ограничить его контактами по выбору. Доступ к хранимым в Keychain паролям, passkeys, одноразовым кодам аутентификации облегчит новое приложение Passwords, которое также предупредит юзера о слабости созданного ключа, его повторном использовании или присутствии в слитых в Сеть базах.

Приложение Messages получило возможность использования спутниковой связи. Теперь можно будет при отсутствии у родных и знакомых Wi-Fi или сотовой связи послать им сообщение из iMessage либо в виде СМС — в первом случае с сохранением сквозного шифрования.

Все эти и другие усовершенствования включены в бета-версии iOS 18, iPad OS 18, macOS Sequoia и уже доступны участникам программы Apple для разработчиков. Публичное бета-тестирование будет запущено в следующем месяце.

Опции Apple Intelligence доступны как бета на iPhone 15 Pro, iPhone 15 Pro Max, iPad и macOS-компьютерах с чипсетом M1 и выше. Язык пока только US-EN.

Атакующие прячут зловред в эмодзи и обходят ИИ-фильтры

Киберпреступники стали чаще использовать эмодзи и другие особенности Unicode, чтобы прятать вредоносный код, обходить фильтры и ускользать даже от ИИ-защиты. Новый тренд уже получил название emoji smuggling — «контрабанда через эмодзи».

Суть проста: злоумышленники кодируют команды и данные в символах, которые выглядят безобидно.

Это могут быть эмодзи, похожие друг на друга буквы из разных алфавитов (гомоглифы), невидимые символы Unicode или специальные знаки, меняющие порядок отображения текста. В итоге человек видит одно, а система обрабатывает совсем другое.

Один из популярных приёмов — подмена символов в доменах. Например, «apple.com» можно зарегистрировать с кириллическими буквами, которые визуально почти не отличаются от латиницы. В браузере адрес выглядит привычно, но ведёт на фишинговую страницу. Такие IDN-гомографические атаки известны давно, но сейчас они становятся частью более сложных схем.

Другой класс трюков — невидимые символы вроде Zero Width Space (U+200B). Они не отображаются на экране, но меняют структуру строки. Это позволяет «сломать» простые сигнатурные фильтры и при этом сохранить работоспособность кода. Исследователи уже показали инструменты, с помощью которых можно спрятать целый JavaScript-модуль в «пустом» файле за счёт нулевой ширины символов.

Отдельная тема — использование эмодзи как контейнера для данных. За счёт особенностей Unicode, тегов и вариационных селекторов можно зашифровать команды внутри последовательности иконок. Для логов и систем мониторинга это выглядит как обычные смайлики, но специальный декодер превращает их, например, в инструкции «скачать», «удалить», «выполнить».

Особенно тревожит исследователей влияние таких техник на ИИ-системы. По данным Mindgard, FireTail и других компаний, Unicode-манипуляции и «эмодзи-контрабанда» позволяют обходить фильтры безопасности LLM почти со 100-процентной эффективностью. Скрытая нагрузка может активироваться после простой расшифровки внутри модели, даже если видимый текст выглядит безобидно.

Проблема в том, что полностью запретить Unicode невозможно: бизнес глобален, пользователи пишут на разных языках, а эмодзи стали частью повседневного общения. Поэтому эксперты рекомендуют не блокировать символы, а внедрять более глубокую нормализацию и проверку входных данных.

RSS: Новости на портале Anti-Malware.ru