Наталья Касперская предупредила об утечках данных через зарубежный ИИ

Наталья Касперская предупредила об утечках данных через зарубежный ИИ

Наталья Касперская предупредила об утечках данных через зарубежный ИИ

Президент ГК InfoWatch Наталья Касперская на ЦИПР-2026 предупредила компании о рисках использования зарубежных генеративных ИИ-моделей. По её словам, при работе с такими сервисами конфиденциальные данные могут уходить на иностранные серверы, где их могут использовать для дообучения моделей или передать третьим лицам.

Логика простая: компания загружает в ИИ документы, внутренние данные, сведения об инфраструктуре, производственных процессах или клиентах, а дальше уже не всегда понятно, кто это увидит, где это сохранится и как потом всплывёт.

Особенно если речь идёт о зарубежной платформе, работающей вне российской юрисдикции.

Касперская отметила, что при развёртывании ИИ-модели внутри собственной инфраструктуры риски утечек можно снизить, но за это приходится платить функциональностью. Модель становится более закрытой и менее гибкой. А если использовать весь международный опыт и внешние сервисы, появляется другая проблема: конфиденциальная информация может утечь наружу.

По её словам, особенно опасна передача в ИИ данных о российских предприятиях и инфраструктуре. Если на другой стороне есть противник, заинтересованный в ущербе, такие сведения могут стать готовой инструкцией: куда смотреть, что ломать и где больнее нажать.

Касперская также раскритиковала слепое копирование зарубежных решений. По её мнению, мир сейчас фактически подсаживают на бесплатный источник искусственного интеллекта: бизнесу говорят внедрять ИИ, но не всегда объясняют, как именно он работает и какие данные при этом утекают. А потом, когда зависимость станет слишком глубокой, снова придётся заниматься импортозамещением.

Тема особенно актуальна на фоне поручения президента внедрить ИИ во все сферы к 2030 году. Минцифры с конца 2025 года разрабатывает законопроект о регулировании ИИ, где должны появиться понятия суверенной и национальной моделей. Предполагается и обязательная сертификация таких решений во ФСТЭК и ФСБ России.

Но у рынка есть встречный вопрос: построить всё с нуля, без иностранных открытых решений, будет дорого и сложно.

ChatGPT тайно заставили выполнять команды из чужого аккаунта

Исследователи из Check Point Research обнаружили канал, позволявший передавать команды между изолированными сессиями ChatGPT из разных аккаунтов. В результате ассистент мог отвечать пользователю как обычно, а параллельно выполнять чужое задание и отправлять результат атакующему.

Канал проходил через внутренний JFrog Artifactory, к которому обращались контейнеры ChatGPT при установке программных пакетов.

Напрямую связаться друг с другом они не могли, но имели доступ к общему сервису. Исследователи выяснили, что контейнеры способны записывать данные в свойства объектов Artifactory и читать их из других аккаунтов. Метаданные репозитория фактически превратились в общий буфер обмена.


Чтобы запустить атаку, требовалось поместить вредоносную инструкцию в контекст жертвы — например, через скопированный промпт, общую беседу или специально созданный GPT. После обычного сообщения пользователя ассистент проверял скрытый канал, забирал оттуда задачу и выполнял её с правами текущей сессии.


В демонстрации ChatGPT получил данные из подключённого Gmail жертвы и передал их исследовательскому аккаунту. На экране при этом появился нормальный ответ на исходный вопрос. Единственной подсказкой оставалась небольшая отметка Talked to Gmail — уже после чтения почты.


Масштаб возможной утечки зависел от полномочий сессии: атакующему потенциально становились доступны история чата, загруженные файлы и данные из подключённых Gmail, Google Drive, Microsoft Teams или GitHub.

Check Point сообщила о проблеме OpenAI. Корпорация подтвердила, что задействованный экземпляр Artifactory выведен из эксплуатации, поэтому описанный канал больше не работает. Данных о его использовании в реальных атаках нет.

RSS: Новости на портале Anti-Malware.ru