Лучшей защитой от ИИ-атак оказался человек, который никому не верит

Лучшей защитой от ИИ-атак оказался человек, который никому не верит

Лучшей защитой от ИИ-атак оказался человек, который никому не верит

ИИ уже прочно засел в кибербезопасности: в 2026 году его используют 78% специалистов против 50% годом ранее. Он сортирует события, помогает разбирать логи, пишет отчёты и расставляет приоритеты. Казалось бы, мечта. Но есть нюанс: доверять ему по-прежнему опасно.

По данным опроса SANS среди 536 ИТ- и ИБ-специалистов, 63% пользователей сталкиваются с серьёзными ошибками ИИ при обнаружении угроз и реагировании на них.

Главные проблемы — ложные срабатывания, слабая работа с новыми атаками и уверенные ответы, которые оказываются полной ерундой.

Две трети опрошенных признались, что за последний год ИИ хотя бы раз направлял их по ложному следу. Каждый одиннадцатый сталкивался с этим более 20 раз. Поэтому в отрасли всё чаще советуют относиться к нейросети как к стажёру: поручать рутину можно, отпускать без проверки — нет.

При этом атакующие тоже не дремлют. 78% организаций сообщили об атаках с применением ИИ: 45% подтвердили это, ещё 33% подозревают. Главная опасность не в каком-то магическом новом вредоносе, а в скорости. Разведка, перемещение по сети и запуск скриптов теперь могут занимать минуты, а не часы.

И вот тут привычные планы реагирования начинают разваливаться. Пока дежурный проснулся, открыл ноутбук и понял, что происходит, злоумышленник уже ушёл дальше.

Самыми эффективными мерами специалисты назвали поведенческое обнаружение, обучение сотрудников, проверку аналитиком и Zero Trust. Специализированные ИИ-защиты от ИИ оказались внизу списка.

Вывод неприятно простой: против умной атаки лучше всего работает не ещё одна нейросеть, а опытный человек с привычкой всё перепроверять.

Google построила в Android клетку для ИИ-агентов, но пока она пустует

В Android появился системный механизм, который позволит ИИ-агентам выполнять действия внутри приложений без имитации нажатий по экрану. Доступ защищён специальным разрешением, однако на обычном смартфоне найти соответствующий переключатель пока не получится: технология AppFunctions остаётся экспериментальной, а её интеграция с Gemini доступна лишь избранным тестировщикам.

AppFunctions позволяет разработчикам превратить отдельные возможности приложений в инструменты для агентов.

Например, вместо открытия календаря и блуждания по интерфейсу Gemini сможет напрямую вызвать функцию создания события. Аналогичным образом агент сможет составить плейлист, добавить товары в список покупок или объединить действия нескольких программ.

По смыслу это мобильный аналог MCP: приложение заранее описывает доступные операции, Android регистрирует их, а аутентифицированный агент выбирает и запускает нужную функцию по запросу пользователя. Интерфейс приложения может меняться сколько угодно.


Чтобы обнаруживать и выполнять такие функции, вызывающая программа должна получить системное разрешение EXECUTE_APP_FUNCTIONS. Оно не отображается в обычном меню настроек и предназначено для одобренных агентов и ассистентов. Сам механизм доступен начиная с Android 16.

Но захват смартфонов роботами откладывается. Google прямо помечает AppFunctions как экспериментальную, предупреждает о возможных изменениях API и пока допускает к полному циклу только ограниченное число приложений и системных агентов. Разработчики могут подготовить и протестировать функции, но подключение к Gemini остаётся закрытым и требует участия в программе раннего доступа.

В перспективе такая архитектура должна быть надёжнее агентов, которые управляют телефоном через ADB и просто тыкают по экрану. Заодно Google заранее ограничивает круг программ, способных распоряжаться чужими функциями.

RSS: Новости на портале Anti-Malware.ru