Google усилила Chrome: ИИ теперь проверяет сам себя перед действиями

Google усилила Chrome: ИИ теперь проверяет сам себя перед действиями

Google усилила Chrome: ИИ теперь проверяет сам себя перед действиями

Google представила новый набор защитных функций в Chrome — теперь браузер получает дополнительные механизмы безопасности, призванные удерживать встроенный ИИ от выполнения вредоносных действий и защищать пользователей от скрытых атак через веб-контент.

Это обновление стало продолжением внедрения в Chrome возможностей Gemini — когда модель сама может планировать действия в браузере, переходить по сайтам, нажимать кнопки и выполнять небольшие задачи.

А вместе с новыми возможностями появились и новые риски: в первую очередь — инъекция в промпты, когда вредоносные подсказки скрываются внутри веб-страницы и пытаются заставить агент делать то, чего пользователь не просил.

Главная новинка — User Alignment Critic, отдельная модель-наблюдатель, которая проверяет каждое планируемое действие агента. Она не видит содержимое подозрительных страниц, а работает только с метаданными. Это делает её устойчивой к попыткам «отравления» вредоносными подсказками.

 

Если Critic считает, что действие не соответствует цели пользователя, оно просто блокируется — агент не сможет продолжить выполнение команды. Если ошибки повторяются, управление возвращается пользователю.

Google отмечает, что User Alignment Critic дополняет уже существующую технику spotlighting, которая заставляет ИИ строго следовать пользовательским инструкциям и игнорировать то, что встроено в веб-страницу.

Второе нововведение — система Agent Origin Sets. Она ограничивает, с какими сайтами агент может взаимодействовать.

Все источники делятся на два типа:

  • только чтение — Gemini может анализировать контент, но не выполнять действия;
  • чтение-запись — агент может читать страницу, нажимать кнопки, вводить текст.

Такой механизм предотвращает ситуации, когда ИИ получает доступ к сайтам, к которым пользователь вообще не обращался, — например, ко вкладке с интернет-банком.

Добавленная прослойка безопасности не видит реального веб-контента, поэтому её невозможно «обмануть» вредоносным кодом.

Теперь Chrome будет запрашивать явное подтверждение пользователя перед тем, как ИИ выполнит потенциально опасные операции:

  • переход на банковские и медицинские порталы;
  • авторизация через Google Password Manager;
  • любые действия с оплатами, покупками и отправкой сообщений.

Кроме того, создаётся рабочий журнал, чтобы пользователь мог видеть, что именно планирует агент и какие действия он хотел бы выполнить.

Chrome также проверяет страницы на наличие скрытых инъекций и работает в связке с Safe Browsing и системой локального выявления мошенничества. Если специальный классификатор решает, что контент пытается манипулировать моделью, действие ИИ блокируется.

К 2031 году российский ИБ-рынок превысит 1 трлн рублей

По прогнозу Центра стратегических разработок (ЦСР), к 2031 году объём российского рынка кибербезопасности может превысить 1 трлн рублей при сохранении текущих тенденций. В 2025 году рынок ИБ достиг 364,4 млрд рублей, что на 16% выше уровня 2024 года.

По оценке аналитиков ЦСР, отрасль постепенно переходит от экстренного импортозамещения к более взвешенному выбору решений, архитектур и сервисных моделей.

Как отметили опрошенные «Коммерсантом» эксперты, со стороны заказчиков усилился запрос на эффективность и окупаемость затрат на ИБ.

По оценкам ЦСР, до 2031 года среднегодовые темпы роста рынка составят 19,4%. В результате к этому сроку он почти утроится и достигнет 1,15 трлн рублей.

Как и прежде, основной объём ИБ-рынка формируют средства сетевой безопасности. При этом сегменты инфраструктурной и прикладной безопасности, защиты данных, а также управления доступом растут быстрее. Кроме того, спрос всё заметнее смещается в сторону сервисов ИБ по моделям MSSP, MDR и SOC-as-a-Service.

Как прокомментировал заместитель директора группы компаний BI.ZONE Константин Левин, темпы роста замедляются, но остаются двузначными. Среди драйверов рынка он назвал не только импортозамещение, но и рост угроз, регуляторное давление и спрос бизнеса на киберустойчивость. К перегретым сегментам Левин отнёс NGFW и EDR, где уже работает большое количество компаний и где, по его оценке, неизбежна консолидация.

Среди недооценённых направлений он выделил безопасность сервисов с искусственным интеллектом и машинным обучением, управление поверхностью атак, а также инструменты управления привилегированными и машиночитаемыми учётными данными.

«Заказчики переходят от быстрой замены отдельных решений к осознанному выбору архитектуры, поставщиков и сервисных моделей», — прокомментировали в ГК «Солар». Основным драйвером рынка там назвали спрос на реальную киберустойчивость.

Заместитель генерального директора Positive Technologies Максим Филиппов подчеркнул, что компании стали жёстче оценивать проекты с точки зрения практического результата и возврата инвестиций. Также заметной стала тенденция смещения фокуса с импортозамещения как самоцели на прикладную эффективность решений. В ближайшие годы, по его оценке, темпы роста будут умеренными, а рынок будут определять консолидация, спрос на интегральные платформы и решения.

Вице-президент по развитию бизнеса «Лаборатории Касперского» в России и странах СНГ Анна Кулашова отмечает, что российский рынок растёт на уровне мирового — на 10–12% в год. Его динамику определяют расширение поверхности атак, рост цифровизации и геополитическая напряжённость.

RSS: Новости на портале Anti-Malware.ru