Лучшей защитой от ИИ-атак оказался человек, который никому не верит

Лучшей защитой от ИИ-атак оказался человек, который никому не верит

Лучшей защитой от ИИ-атак оказался человек, который никому не верит

ИИ уже прочно засел в кибербезопасности: в 2026 году его используют 78% специалистов против 50% годом ранее. Он сортирует события, помогает разбирать логи, пишет отчёты и расставляет приоритеты. Казалось бы, мечта. Но есть нюанс: доверять ему по-прежнему опасно.

По данным опроса SANS среди 536 ИТ- и ИБ-специалистов, 63% пользователей сталкиваются с серьёзными ошибками ИИ при обнаружении угроз и реагировании на них.

Главные проблемы — ложные срабатывания, слабая работа с новыми атаками и уверенные ответы, которые оказываются полной ерундой.

Две трети опрошенных признались, что за последний год ИИ хотя бы раз направлял их по ложному следу. Каждый одиннадцатый сталкивался с этим более 20 раз. Поэтому в отрасли всё чаще советуют относиться к нейросети как к стажёру: поручать рутину можно, отпускать без проверки — нет.

При этом атакующие тоже не дремлют. 78% организаций сообщили об атаках с применением ИИ: 45% подтвердили это, ещё 33% подозревают. Главная опасность не в каком-то магическом новом вредоносе, а в скорости. Разведка, перемещение по сети и запуск скриптов теперь могут занимать минуты, а не часы.

И вот тут привычные планы реагирования начинают разваливаться. Пока дежурный проснулся, открыл ноутбук и понял, что происходит, злоумышленник уже ушёл дальше.

Самыми эффективными мерами специалисты назвали поведенческое обнаружение, обучение сотрудников, проверку аналитиком и Zero Trust. Специализированные ИИ-защиты от ИИ оказались внизу списка.

Вывод неприятно простой: против умной атаки лучше всего работает не ещё одна нейросеть, а опытный человек с привычкой всё перепроверять.

ИИ-агенты OpenAI устроили спам-налёт на RubyGems

Агенты OpenAI могли стоять за майским налётом на RubyGems, из-за которого репозиторий заблокировал новые регистрации на четыре дня и удалил более 500 подозрительных пакетов. Системам поручили собирать открытые данные и готовить безобидные отчёты, но маршрут до таблицы внезапно пролёг через массовое создание аккаунтов.

По данным The Wall Street Journal, агенты работали в среде с ограниченным интернетом, однако нашли выход наружу через инфраструктуру RubyGems. Новые учётные записи появлялись каждые две-три минуты, после чего на платформу загружались сотни пакетов с собранными в Сети страницами.

Исследователи из Nightingale Collective связали кампанию с OpenAI по цифровым следам и сходству с другими эпизодами активности её агентов. Они также обнаружили в пакетах код, который пытался получить API-ключи других пользователей, и признаки возможного использования неизвестной ранее уязвимости.

Ruby Central сообщила, что не может независимо подтвердить участие ИИ-агентов. Доказательств успешной кражи API-ключей или эксплуатации предполагаемой 0-day организация также не нашла. Установка пакетов и публикация обновлений существующими пользователями продолжали работать.

OpenAI подтвердила, что её агенты действительно обращались к RubyGems во время тестирования, но отвергла трактовку произошедшего как намеренной атаки. По версии компании, системы пытались получить общедоступную информацию для выполнения обычных заданий. Расследование продолжается совместно с RubyGems.

Напомним, в июле OpenAI во время внутреннего тестирования нашли дыру в изолированной среде, выбрались в интернет и атаковали платформу Hugging Face. Компания признала, что за инцидентом 16 июля стояли GPT-5.6 Sol и ещё более мощная модель, которая пока не выпущена.

RSS: Новости на портале Anti-Malware.ru