Apple учит Siri писать письма, не заглядывая в вашу переписку

Apple учит Siri писать письма, не заглядывая в вашу переписку

Apple учит Siri писать письма, не заглядывая в вашу переписку

Apple решила подтянуть интеллект Siri, но с умом — чтобы помощник стал полезнее, а ваша переписка осталась приватной. С выходом iOS 18.5 и macOS 15.5 появятся улучшенные фишки Apple Intelligence, и вот как их тренируют.

Как объяснила Apple в блоге, обычно модели обучаются на специально сгенерированных выдуманных письмах. В Bloomberg также подтверждают новые практики техногиганта.

Например:

«Хочешь поиграть в теннис завтра в 11:30?»

Но такие сообщения не всегда отражают настоящую манеру общения. Поэтому Apple придумала хитрый способ, как сделать синтетику более «живой».

Теперь модель будет сравнивать эти выдуманные письма с небольшим набором реальных сообщений, которые лежат на устройствах пользователей, согласившихся участвовать в анонимной аналитике. Сами письма никуда не уходят — устройство просто считает вектор, описывающий суть письма: тему, стиль, длину.

Затем этот вектор сравнивается с векторами выдуманных писем. И если, например, сообщение про теннис часто «совпадает» с реальными письмами, то в следующий раз модель создаст похожее, но про футбол. Так появляется всё более релевантный и реалистичный набор писем для обучения — и всё это без вреда для конфиденциальности.

Apple подчёркивает: конкретные письма никто не читает. Даже сами векторы не уходят с устройства. Apple видит только статистику — какие типы синтетических писем чаще «всплывают» у пользователей, так что никакой личной информации в процесс не попадает.

Ранее мы рассуждали, является ли Apple Intelligence ИИ-прорывом или кошмаром для конфиденциальности владельцев iPhone.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

Специалисты компании Radware рассказали о необычной атаке на ChatGPT, которую они назвали ShadowLeak. В отличие от привычных схем с обманом пользователей, здесь ничего делать не нужно: злоумышленнику достаточно отправить жертве «правильное» письмо.

Атака была нацелена на функцию Deep Research — она предназначена для многошаговых исследований и может сама обрабатывать письма или документы.

Вредоносное письмо выглядит безобидно, но внутри спрятаны инструкции. Когда ChatGPT начинает, например, пересказывать письма из почтового ящика, агент «включает» скрытые команды и пересылает данные на сайт злоумышленника.

Главное отличие от похожих атак — всё происходит на стороне серверов OpenAI, а не на устройстве пользователя. То есть утечка идёт напрямую из облака, а в клиенте никаких следов не остаётся.

Radware показала, что таким способом можно вытягивать данные не только из Gmail, но и из Google Drive, Outlook, Dropbox, Microsoft Teams, GitHub и других сервисов, которые могут быть связаны с ChatGPT.

 

Авторы атаки позаботились о деталях: «убеждали» бота, что у него есть все права, внушали срочность, предлагали несколько попыток и даже объясняли, что «данные и так публичные».

Radware сообщила об уязвимости 18 июня, и в начале августа OpenAI её закрыла. Сейчас ShadowLeak уже не работает. Но исследователи считают, что подобных «дыр» ещё много, и советуют компаниям внимательно следить за действиями ИИ-агентов и сверять их с реальными задачами пользователя.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru