Apple Intelligence не может отличить фишинговые письма от безобидных

Apple Intelligence не может отличить фишинговые письма от безобидных

Apple Intelligence не может отличить фишинговые письма от безобидных

Основанная на ИИ система Apple Intelligence, которую купертиновцы готовятся представить осенью вместе с iOS 18, iPadOS 18 и macOS Sequoia, имеет существенный изъян по части информационной безопасности: разработчики не научили её отличать фишинговые письма от обычных.

Как известно, Apple Intelligence учитывает личный контекст, упрощая работу с Safari и таким «родным» софтом, как «Сообщения», «Почта», «Заметки», «Календарь».

Несмотря на заверения Apple об отсутствии угроз для конфиденциальности, ряд пользователей на площадке Reddit указал на неспособность Apple Intelligence отличить опасное электронное письмо.

Более того, основанный на ИИ фильтр в приложении «Почта» помечает мошеннические письма флажком «Приоритетные». Другими словами, система оценивает письмо исключительно по тексту, игнорируя, например, отправителя и другие маячки.

 

«Почту» в iOS и macOS и так давно преследует проблема фишинга, поскольку приложение не может эффективно детектировать подозрительные или опасные письма. Однако Apple Intelligence только усугубляет ситуацию, поскольку маркировка «Приоритетные» повышает шансы на открытие сообщения.

Тем не менее запуск ИИ-системы планируется на осень, поэтому дадим разработчикам время доработать её. Возможно, в день запуска всё будет не так плохо.

Напомним, нюансы Apple Intelligence мы разбирали в статье «ИИ-прорыв или кошмар для конфиденциальности владельцев iPhone?».

Исследователь купил noreply.net, компании начали присылать ему секреты

Компании годами отправляют документы, пароли и персональную информацию на адреса вроде company@noreply[.]net, полагая, что письма растворятся в цифровой пустоте. Вот только у пустоты нашёлся владелец, и теперь она получает около 700 сообщений в день.

Исследователь в области безопасности Кори Соловевич купил домены noreply.us и noreply.net в 2020 и 2024 годах.

Настроив сбор писем со всех адресов, он случайно создал приманку для корпоративных утечек. С декабря 2024 года на один из доменов пришло более 401 тыс. сообщений.

Среди находок можно встретить отчёты о травмах, заказы на ремонт, сведения о покупках, письма от школьных платформ и учётные данные тестовых систем. Только noreply.net получил около 400 тыс. сообщений, причём более 28 тыс. содержали вложения. Отправителями стали свыше 14 тыс. адресов, связанных с 6200 доменами.

Причина проста: некоторые системы используют чужие публичные домены как заглушки или заменяют ими адрес сотрудника после его увольнения. Разработчики, видимо, рассчитывали, что noreply означает, что письма никто не читает.

Похожий эксперимент провёл руководитель службы безопасности Xeal Майк Шевард. Он заплатил около 15 долларов за deleteduser.com и уже в первый час получил письма от трёх организаций.

Позднее на домен посыпались гостиничные бронирования, сведения о заказах лекарств, просьбы согласовать отпуска, приглашения на совещания и тысячи снимков с промышленных камер наблюдения. Одна компания даже позвала дорогого удалённого пользователя на летнее барбекю.

Исследователи независимо приобрели более 30 подобных доменов, чтобы те не достались киберпреступникам. Соловевич также проверил 7136 потенциальных доменов-заглушек и обнаружил, что 328 из них принимают письма на любые адреса.

Проблема решается довольно просто: для заглушек можно использовать внутренние домены или зарезервированную зону .invalid. Но многие компании на предупреждения не отвечают. Видимо, кнопка noreply у них работает в обе стороны.

RSS: Новости на портале Anti-Malware.ru