Китайские разработки в сфере ИИ почти догнали американские

Китайские разработки в сфере ИИ почти догнали американские

Китайские разработки в сфере ИИ почти догнали американские

По итогам 2024 года китайские разработки в сфере искусственного интеллекта практически сравнялись по производительности с американскими. Еще в 2023 году отставание китайских продуктов от решений из США измерялось двузначными показателями.

О достижении паритета сообщила англоязычная китайская газета South China Morning Post со ссылкой на результаты исследования Стэнфордского университета.

Ключевым результатом, по мнению автора статьи Бена Цзяна, стали итоги тестирования в рамках Massive Multitask Language Understanding (MMLU). В 2023 году отставание китайских моделей составляло более 17%, тогда как в 2024 году оно сократилось до 0,3%.

Согласно отчету Стэнфорда, китайские компании, такие как Alibaba Group Holding, ByteDance, Tencent Holdings, DeepSeek и Zhipu AI, уверенно вошли в число мировых лидеров в области ИИ. При этом китайские модели демонстрируют высокую производительность при меньших вычислительных затратах, что привлекает внимание международного сообщества.

Наибольшую популярность на мировом рынке получили DeepSeek V3 — благодаря низким требованиям к ресурсам, а также серия Qwen, показавшая высокую эффективность в решении специализированных задач. Однако, как выяснилось, DeepSeek достаточно легко поддается манипуляциям, в результате чего может быть использован для создания вредоносного ПО, включая кейлоггеры и программы-вымогатели.

Для сравнения, проект Llama 4 от Meta (признана в России экстремистской организацией и запрещена) оказался в центре скандала, связанного с манипуляцией результатов тестирования.

Еще в 2023 году Китай вышел на первое место в мире по числу научных публикаций, посвящённых ИИ. На его долю пришлось 23,2% всех публикаций против 15,2% в странах ЕС и 9,2% в Индии. По количеству патентов отрыв еще более значителен: почти 70% — в три раза больше, чем у США.

Одним из потенциальных рисков аналитики называют сокращение инвестиций в китайские стартапы со стороны частных инвесторов. Это связано с запретом американских властей на вложения в китайские ИИ-компании. В результате объем финансирования отрасли в США более чем в 12 раз превысил китайский.

Один клик — и Copilot сливает данные: как работает атака Reprompt

Исследователи по информационной безопасности обнаружили новый метод атаки на Microsoft Copilot, получивший название Reprompt. Уязвимость позволяла злоумышленникам получить доступ к пользовательской сессии ИИ-помощника и незаметно выкачивать конфиденциальные данные — всего после одного клика по ссылке.

Суть атаки довольно изящная и от этого особенно неприятная. Злоумышленник встраивал вредоносный промпт в обычную, на первый взгляд легитимную ссылку Copilot, используя параметр q в URL.

Когда пользователь переходил по такой ссылке, Copilot автоматически выполнял переданные инструкции — без дополнительных действий со стороны жертвы.

Дальше — интереснее. Reprompt не требовал ни плагинов, ни расширений, ни сложных трюков. Более того, даже после закрытия вкладки Copilot атака могла продолжаться, поскольку использовалась уже аутентифицированная пользовательская сессия.

 

Copilot Personal тесно интегрирован в Windows, Edge и другие приложения Microsoft, а значит, при определённых условиях имеет доступ к истории диалогов, пользовательским данным и контексту предыдущих запросов. Именно этим и воспользовались исследователи.

Эксперты из компании Varonis выяснили, что для успешной атаки достаточно скомбинировать три техники:

  • Инъекция параметра в промпт (P2P) — внедрение инструкций напрямую через параметр q в URL, который Copilot воспринимает как обычный пользовательский запрос.
  • Двойной запрос — обход защитных механизмов Copilot. Guardrails срабатывают только на первый запрос, а вот повторная попытка уже может выдать чувствительные данные.
  • Цепочка запросов, где каждый ответ Copilot используется для формирования следующей команды, получаемой с сервера атакующего. Это позволяет выкачивать данные постепенно и практически незаметно.

 

В одном из примеров исследователи попросили Copilot «перепроверить результат» и выполнить действие дважды. В первой попытке ассистент сработал корректно и не раскрыл секретную строку, но во второй — защита уже не сработала, и данные утекли.

Главная проблема Reprompt — в его «невидимости». После первого перехода по ссылке все последующие инструкции Copilot получал с удалённого сервера, а не из начального запроса. Это значит, что ни пользователь, ни средства защиты не могли понять, какие именно данные в итоге утекают.

Как отмечают в Varonis, анализ одной только ссылки не даёт никакого понимания реального сценария атаки — самые опасные команды передаются позже, уже в ходе диалога Copilot с сервером злоумышленника.

 

Хорошая новость: уязвимость уже закрыта. Varonis ответственно раскрыла информацию Microsoft ещё 31 августа прошлого года, и исправление вошло в обновления Patch Tuesday за январь 2026 года.

По данным исследователей, случаев эксплуатации Reprompt «в дикой природе» зафиксировано не было. Тем не менее Microsoft настоятельно рекомендует установить последние обновления Windows как можно скорее.

RSS: Новости на портале Anti-Malware.ru