ИИ-помощник Claude провел для шпионов 30 атак, несколько — с успехом

ИИ-помощник Claude провел для шпионов 30 атак, несколько — с успехом

ИИ-помощник Claude провел для шпионов 30 атак, несколько — с успехом

Зафиксирован первый случай злоупотребления ИИ для почти полной (на 80-90%) автоматизации шпионских атак на госструктуры и крупные компании. Суммарно с помощью Claude было атаковано около 30 целей; в нескольких случаях взлом завершился успехом.

Инициатором необычной кампании, по данным Anthropic, являлась китайская APT-группа, идентифицируемая как GTG-1002. Мишени для проведения атак ее участники выбирали сами; их интересовали секреты госсектора, ИТ, финансовой сферы и химической промышленности.

Операторы ИИ-дирижера в ходе каждой многоступенчатой атаки вмешивались лишь 4-6 раз — когда надо было принять стратегическое решение по результатам выполнения задач агентскими Claude.

Эти исполнители определяли площадь атаки, сканировали целевую инфраструктуру в поисках уязвимостей, разрабатывали способы их использования и эксплойт-коды, воровали учетки и проверяли их дееспособность, собирали конфиденциальные данные.

Дискретные задачи ставились компонентам ИИ с тщательной формулировкой промптов и без раскрытия контекста, который бы мог выдать недобрые намерения.

 

Обнаружив атаки с использованием ее продукта, Anthropic запустила расследование, определила масштабы вредоносных операций и по итогам заблокировала ассоциированные аккаунты, а также уведомила потенциальных жертв и правоохранительные органы.

К счастью, в новой бочке дегтя присутствовала ложка меда: из-за склонности в галлюцинациям ИИ зачастую выдавал желаемое за действительное: рапортовал об успехах (краже актуальных учеток, обнаружении якобы неизвестных ранее уязвимостей), хотя действительность свидетельствовала об обратном.

Подобные ошибки говорят о том, что интеллектуальные помощники не способны самостоятельно проводить хакерские атаки — по крайней мере, на современном этапе развития ИИ.

Одна ссылка в Copilot могла слить почту, содержимое OneDrive и SharePoint

Исследователи из Varonis Threat Labs обнаружили в Microsoft 365 Copilot опасную уязвимость SearchLeak, которая позволяла злоумышленникам похищать корпоративные данные буквально через одну ссылку. Под угрозой оказались электронная почта, заметки встреч, документы OneDrive, файлы SharePoint и другие данные, к которым пользователь имел доступ через Copilot.

Схема атаки выглядела так: злоумышленник отправлял жертве специальную ссылку на Microsoft 365 Copilot Search через почту, Slack или любой другой канал связи.

Внутри ссылки был спрятан вредоносный запрос, который Copilot воспринимал как инструкцию к действию. После открытия такой ссылки ИИ мог получить доступ ко внутренним данным пользователя, найти нужные письма или документы и передать информацию на сервер атакующего.

Особенно неприятен тот факт, что для работы атаки не требовалось скачивать файлы, устанавливать расширения или запускать подозрительные программы. Достаточно было открыть ссылку.

 

Для обхода защитных механизмов исследователи использовали хитрую комбинацию. Данные выводились через специальный тег изображения, связанный с сервисом поиска по картинкам Bing. Поскольку Bing является доверенным сервисом Microsoft, часть стандартных ограничений безопасности фактически обходилась.

В результате злоумышленники теоретически могли получать темы писем, содержимое сообщений, коды многофакторной аутентификации, ссылки для сброса паролей, данные встреч и конфиденциальные корпоративные документы.

В Microsoft уже закрыли проблему. Уязвимость получила идентификатор CVE-2026-42824, её закрыли на стороне сервиса. Пользователям дополнительно ничего делать не нужно.

Однако исследователи считают, что история гораздо серьёзнее одной конкретной ошибки. По их мнению, SearchLeak демонстрирует целый класс рисков, характерных для корпоративных ИИ-помощников, которые одновременно работают с внешними данными, внутренними документами и способны выполнять действия от имени пользователя.

RSS: Новости на портале Anti-Malware.ru