ИИ находит ошибки быстрее, чем их могут исправлять

ИИ находит ошибки быстрее, чем их могут исправлять

ИИ находит ошибки быстрее, чем их могут исправлять

Многие команды разработчиков опенсорс-проектов столкнулись с потоком сообщений об ошибках и уязвимостях, которые выявляют ИИ-модели. Для многих проектов, особенно небольших, это стало серьёзной проблемой: устранять такие находки по мере их поступления они попросту не успевают. В результате ситуация начинает нести заметные риски для безопасности.

О проблеме сообщило агентство Bloomberg. Издание приводит слова Дэниела Стенберга из проекта cURL: только за 2025 год команда получила 181 сообщение об ошибках и уязвимостях — больше, чем за 2023 и 2024 годы вместе взятые.

По словам специалиста, рост числа багрепортов напрямую связан с распространением ИИ-моделей. Как отметил Стенберг, ситуация продолжает ухудшаться. С начала 2026 года команда проекта уже получила 87 сообщений об ошибках, а по итогам года их число может приблизиться к 330.

Рост активности связывают с появлением новой ИИ-модели Mythos от Anthropic. Она позволяет находить проблемный код быстрее, чем предыдущие поколения таких систем, не говоря уже о людях, которые проводят аудит вручную или с помощью традиционных инструментов.

Многие другие проекты, столкнувшись с валом отчётов об ошибках, сгенерированных с помощью ИИ, вообще прекратили их приём. Разработчики сравнивают этот поток с DDoS-атакой, называя его «пугающим» и крайне сложным для обработки.

Понимая возможные риски, связанные с тем, что новая модель сможет находить уязвимости быстрее, чем разработчики будут успевать их устранять, Anthropic не стала выпускать Mythos в открытый доступ. Вместо этого компания ограничила доступ к ней, предоставив его только ключевым организациям, включая CrowdStrike и Linux Foundation.

Как подчёркивает Bloomberg, вся индустрия во многом зависит от результатов работы проектов с открытым исходным кодом, которыми нередко занимаются небольшие команды с ограниченными ресурсами. Ситуацию дополнительно осложняет наличие большого объёма устаревшего кода, который может быть использован во вредоносных целях.

Показательный пример — история с WannaCry: авторы этого шифровальщика использовали устаревший драйвер Windows для распространения зловреда. При этом удалить такой компонент не всегда возможно без риска нарушить работу критически важных функций системы.

Устройство размером с монету может подменять данные в авионике Boeing 737

Исследователи из Калифорнийского университета в Сан-Диего и Оберлинского колледжа создали миниатюрное устройство, способное вмешиваться в обмен данными между системами Boeing 737. Гаджет подключается к диагностическому порту самолёта и помещается под обычной пылезащитной крышкой, поэтому заметить незваного пассажира во время стандартного осмотра непросто.

Порт расположен в одном из двух отсеков электронного оборудования возле ниши передней стойки шасси.

Обычно механики используют его для проверки авионики, но исследователи выяснили, что через него можно подключиться к шине связи между многофункциональным пультом MCDU в кабине и бортовым вычислителем FMC.

Устройство способно перехватывать, изменять и подделывать передаваемые команды. В лабораторном эксперименте учёные меняли показания температуры наружного воздуха, массу самолёта и параметры маршрута.

Ошибочные данные могут повлиять на расчёт необходимой тяги при взлёте или постепенно увести лайнер с заданного курса.

Исследователи также подключили устройство к интернету через бортовой Wi-Fi, продемонстрировав возможность удалённого взаимодействия после физической установки. Именно физический доступ остаётся важным условием атаки: незаметно подключить гаджет к Boeing из домашнего кресла не получится.

Кроме того, изменение данных FMC само по себе не означает неизбежную катастрофу. Пилоты обучены работать с противоречивыми показаниями, расчёты взлётных характеристик дополнительно проверяются на электронных планшетах, а отклонение от маршрута заметят независимые приборы и диспетчеры.

Boeing считает существующие уровни защиты достаточными для серьёзного ограничения практической осуществимости атаки. Исследователи предлагают закрыть сервисный порт, лучше изолировать электрические системы и внедрить криптографическую проверку команд.

RSS: Новости на портале Anti-Malware.ru