Apple Intelligence не может отличить фишинговые письма от безобидных

Apple Intelligence не может отличить фишинговые письма от безобидных

Apple Intelligence не может отличить фишинговые письма от безобидных

Основанная на ИИ система Apple Intelligence, которую купертиновцы готовятся представить осенью вместе с iOS 18, iPadOS 18 и macOS Sequoia, имеет существенный изъян по части информационной безопасности: разработчики не научили её отличать фишинговые письма от обычных.

Как известно, Apple Intelligence учитывает личный контекст, упрощая работу с Safari и таким «родным» софтом, как «Сообщения», «Почта», «Заметки», «Календарь».

Несмотря на заверения Apple об отсутствии угроз для конфиденциальности, ряд пользователей на площадке Reddit указал на неспособность Apple Intelligence отличить опасное электронное письмо.

Более того, основанный на ИИ фильтр в приложении «Почта» помечает мошеннические письма флажком «Приоритетные». Другими словами, система оценивает письмо исключительно по тексту, игнорируя, например, отправителя и другие маячки.

 

«Почту» в iOS и macOS и так давно преследует проблема фишинга, поскольку приложение не может эффективно детектировать подозрительные или опасные письма. Однако Apple Intelligence только усугубляет ситуацию, поскольку маркировка «Приоритетные» повышает шансы на открытие сообщения.

Тем не менее запуск ИИ-системы планируется на осень, поэтому дадим разработчикам время доработать её. Возможно, в день запуска всё будет не так плохо.

Напомним, нюансы Apple Intelligence мы разбирали в статье «ИИ-прорыв или кошмар для конфиденциальности владельцев iPhone?».

В каждой седьмой студенческой работе обнаружены следы использования ИИ

В 2025 году следы использования генеративного искусственного интеллекта были обнаружены примерно в каждой седьмой студенческой работе, проверенной системой «Антиплагиат». Всего за год через сервис прошло около 8 млн учебных текстов.

Такую статистику привёл РИА Новости генеральный директор компании «Антиплагиат» Евгений Лукьянчиков. По его словам, признаки применения ИИ выявлены в 15,3% работ, при этом средний уровень заимствований из открытых источников составил около 20%.

Наиболее активно генеративные модели используют студенты гуманитарных и социально-экономических направлений: в этих дисциплинах доля ИИ-сгенерированных фрагментов примерно вдвое выше, чем в работах по техническим и естественнонаучным специальностям. В целом, отмечают в «Антиплагиате», интерес студентов к ИИ-инструментам продолжает расти.

Евгений Лукьянчиков также сообщил, что сейчас ведётся разработка новой версии системы «Антиплагиат». Она сможет одновременно выявлять как заимствования, так и тексты, созданные с помощью ИИ, отслеживать процесс написания работы в реальном времени и передавать соответствующие данные преподавателю. Запуск обновлённой версии запланирован на февраль.

«Сегодня уже недостаточно просто искать совпадения в тексте — важно уметь отличать самостоятельную работу от механического копирования или бездумного использования генеративных ИИ-моделей», — подчеркнул Евгений Лукьянчиков. По его мнению, искусственный интеллект должен помогать развитию критического мышления, а не подменять его.

При этом ИИ используют не только студенты. Ранее широкий резонанс вызвало обнаружение следов применения зарубежного ИИ-чат-бота при подготовке пояснительной записки к одному из законопроектов.

RSS: Новости на портале Anti-Malware.ru