ИИ находит ошибки быстрее, чем их могут исправлять

ИИ находит ошибки быстрее, чем их могут исправлять

ИИ находит ошибки быстрее, чем их могут исправлять

Многие команды разработчиков опенсорс-проектов столкнулись с потоком сообщений об ошибках и уязвимостях, которые выявляют ИИ-модели. Для многих проектов, особенно небольших, это стало серьёзной проблемой: устранять такие находки по мере их поступления они попросту не успевают. В результате ситуация начинает нести заметные риски для безопасности.

О проблеме сообщило агентство Bloomberg. Издание приводит слова Дэниела Стенберга из проекта cURL: только за 2025 год команда получила 181 сообщение об ошибках и уязвимостях — больше, чем за 2023 и 2024 годы вместе взятые.

По словам специалиста, рост числа багрепортов напрямую связан с распространением ИИ-моделей. Как отметил Стенберг, ситуация продолжает ухудшаться. С начала 2026 года команда проекта уже получила 87 сообщений об ошибках, а по итогам года их число может приблизиться к 330.

Рост активности связывают с появлением новой ИИ-модели Mythos от Anthropic. Она позволяет находить проблемный код быстрее, чем предыдущие поколения таких систем, не говоря уже о людях, которые проводят аудит вручную или с помощью традиционных инструментов.

Многие другие проекты, столкнувшись с валом отчётов об ошибках, сгенерированных с помощью ИИ, вообще прекратили их приём. Разработчики сравнивают этот поток с DDoS-атакой, называя его «пугающим» и крайне сложным для обработки.

Понимая возможные риски, связанные с тем, что новая модель сможет находить уязвимости быстрее, чем разработчики будут успевать их устранять, Anthropic не стала выпускать Mythos в открытый доступ. Вместо этого компания ограничила доступ к ней, предоставив его только ключевым организациям, включая CrowdStrike и Linux Foundation.

Как подчёркивает Bloomberg, вся индустрия во многом зависит от результатов работы проектов с открытым исходным кодом, которыми нередко занимаются небольшие команды с ограниченными ресурсами. Ситуацию дополнительно осложняет наличие большого объёма устаревшего кода, который может быть использован во вредоносных целях.

Показательный пример — история с WannaCry: авторы этого шифровальщика использовали устаревший драйвер Windows для распространения зловреда. При этом удалить такой компонент не всегда возможно без риска нарушить работу критически важных функций системы.

Security Vision 5 научилась тестировать правила корреляции до запуска

Компания Security Vision выпустила очередное обновление платформы Security Vision 5. В новом релизе разработчики сделали акцент на доработке механизмов корреляции событий, автоматизации процессов и упрощении администрирования системы.

Одним из самых заметных изменений стало появление встроенного тестирования правил корреляции. Теперь специалисты могут проверить работу правила ещё на этапе настройки, не дожидаясь появления реальных событий в инфраструктуре. Для этого в редакторе появилась отдельная вкладка «Тестирование».

Кроме того, платформа научилась работать с правилами в формате Sigma. Для них добавлена автоматическая проверка кода, а сами правила можно экспортировать и импортировать через YAML-файлы. Это упрощает перенос настроек между Security Vision и другими системами, поддерживающими Sigma.

Разработчики также расширили возможности автоматизации. Теперь при запуске рабочих процессов из графа объектов можно переопределять входные параметры в зависимости от конкретного сценария. Проще говоря, один и тот же процесс можно использовать в разных условиях без создания множества его копий.

 

Ещё одно изменение касается обработки данных. В механизмах парсинга появились динамические источники данных, включая переменные и входные параметры. Это позволяет строить более гибкие сценарии обработки информации и использовать данные, полученные непосредственно во время выполнения автоматизированных процессов.

Обновления затронули и пользовательский интерфейс. В новой версии переработаны редакторы объектов, справочников и карточек. Настройка структуры данных стала более удобной, а управление отображением карточек — более наглядным.

Изменения получили и инструменты развертывания платформы. В мастер установки добавили возможность заранее указывать внешний URL для сервисов, что упрощает настройку в сложных инфраструктурах. Также появились дополнительные параметры командной строки, включая просмотр версии платформы и справочную информацию по установке.

В итоге обновление получилось скорее инфраструктурным, чем визуальным. Новые функции ориентированы на специалистов, которые занимаются настройкой корреляции, автоматизацией процессов и сопровождением платформы в крупных ИТ- и ИБ-проектах.

RSS: Новости на портале Anti-Malware.ru