Увлечение ИИ-программированием в России вызовет рост числа ИТ-сбоев до 20%

Увлечение ИИ-программированием в России вызовет рост числа ИТ-сбоев до 20%

Увлечение ИИ-программированием в России вызовет рост числа ИТ-сбоев до 20%

По прогнозу «Монк Дидижтал Лаб», расширение использования генеративного ИИ в российских разработках приведет к увеличению количества сбоев ИТ-инфраструктуры — на 15-20% к концу 2025 года в сравнении с уровнем-2023.

Исследование влияния GenAI на разработку корпоративных приложений и надежность ИТ-систем в России выявило стремительный рост популярности таких инструментов, как GitHub Copilot, CodeWhisperer, Tabnine, Windsurf (ранее Codeium), IDE с GigaChat-помощником и проч.

Применение ИИ, по мнению аналитиков, повышает вероятность сбоев по ряду причин:

  • в кодах множится число ошибок — так, при использовании Copilot разработчики вносят на 41% больше багов в pull-запросах, чем при работе без такого ассистента;
  • повышение темпов релизов и лего-подобное построение сервисов усложняют архитектуру, из-за этого растет число точек отказа;
  • полагаясь на ИИ, разработчики испытывают ложное чувство уверенности в результате, и проекты перестают подвергаться коллегиальной оценке;
  • экспертиза по ИИ-кодингу пока не нажита, и половина компаний-разработчиков справедливо считает, что ИТ-инфраструктура пока не готова впитать такое новшество.

Рост числа сбоев из-за использования ИИ наиболее вероятен в телеком-индустрии — до 15-18%. Операторы связи используют таких помощников для рефакторинга, документирования, создания сценариев пользовательского трафика и тестирования новых функций, при этом мельчайшая ошибка в коде сетевого устройства может вызвать масштабную деградацию сервиса.

В сфере ретейла популярны Copilot и Codeium. Их использование обычно умножает в проектах число мелких багов, которые легко устранить. Рост числа ИТ-сбоев в этой отрасли прогнозируется в пределах 12-14%.

Финансисты обычно быстрее всех осваивают новые технологии. Исследование показало, что ИИ-помощниками обзавелись либо пользуются в пробном порядке все крупные российские банки. Количество сбоев в финансовой сфере может увеличиться на 8-10% — в основном из-за излишнего доверия к GenAI.

Промышленники тоже активно интересуются ИИ-инструментами. Рост числа сбоев в связи с их использованием ожидается на уровне 5-7%.

Чтобы снизить этот показатель, эксперты советуют внедрять AIOps-платформы, ввести контроль качества подсказок для ИИ, а также применять подход Shift Left Security, который позволяет сократить число уязвимостей на 30-40% еще до вывода продукта в общий доступ за счет интеграции сканеров SAST/DAST и аудита ИИ-кодов в конвейеры CI/CD.

«GenAI ускоряет time-to-market, но одновременно делает ИТ-ландшафт более уязвимым, — комментирует Елена Синицына, директор по аналитике “Монк Дидижтал Лаб”. — Без автоматизированной наблюдаемости результатом станет “технический долг на стероидах”. Однако компании, которые ставят AIOps и безопасный SDLC во главу угла, смогут не только нейтрализовать риск, но и добиться -5% инцидентов к 2025 году».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

ИИ пишет коды, как талантливый джуниор, и это подрывает безопасность софта

Как выяснили израильские специалисты, сгенерированные ИИ коды по плотности уязвимостей сравнимы с рукописными творениями, однако содержат структурные изъяны, способные повысить риски для введенных в эксплуатацию систем.

В рамках исследования в OX Security изучили содержимое более 300 репозиториев софта, в том числе 50 проектов, созданных с помощью GitHub Copilot, Cursor или Claude.

Многие сгенерированные ИИ коды выглядели чистыми и функциональными: казалось, умный помощник повел себя как одаренный начинающий программист, к тому же обладающий феноменальным быстродействием.

К сожалению, его участие свело на нет аудит кода, отладку и командный надзор, с которыми современные безопасники и так плохо справляются из-за возросшей нагрузки. Такие корпоративные службы, по данным экспертов, в среднем одновременно обрабатывают по полмиллиона алертов, оценивая степень важности и принимая дополнительные меры защиты.

Применение ИИ ускорило темпы создания софта, однако такие разработчики зачастую развертывают свои программы, не имея представления о защите хранимых данных и доступа, в том числе через интернет. Справедливости ради стоит отметить, что в подобную ловушку может попасть и профессиональный кодер.

«Функциональные приложения теперь можно выкатывать быстрее, но их не успевают тщательно проверять, — комментирует Эяль Пац (Eyal Paz), вице-президент OX Security по исследовательской работе. — Уязвимые системы вводятся в эксплуатацию с беспрецедентной скоростью, однако надлежащий аудит кода невозможно масштабировать до такой степени, чтобы он соответствовал новым темпам».

Суммарно эксперты выявили десять потенциально опасных недостатков, которые часто встречаются в творениях ИИ-помощников программиста:

  • множественные, излишние комментарии в коде, затрудняющие проверку (в 90-100% случаев);
  • фиксация на общепринятых правилах программирования, препятствующая созданию более эффективных и новаторских решений (80–90%);
  • создание одноразовых кодов, без возможности перепрофилирования под иные задачи (80–90%);
  • исключение рефакторинга (80–90%);
  • повторяющиеся баги, которые потом приходится многократно фиксить, из-за невозможности многократного использования кода (70-80%);
  • отсутствие осведомленности о специфике среды развертывания, приводящее к отказу кода, исправно функционирующего на стадии разработки (60-70%);
  • возврат к монолитным, сильно связанным архитектурам вместо уже привычных, удобных в сопровождении микросервисов (40-50%);
  • фейковое покрытие тестами всех интересующих значений — вместо оценки реальной логики ИИ выдает бессмысленные метрики, создающие ложное чувство уверенности в результатах (40-50%);
  • создание кодов с нуля вместо добавления обкатанных библиотек и SDK, что повышает риски привнесения ошибок (40-50%);
  • добавление логики для порожденных галлюцинациями сценариев, повышающее расход ресурсов и снижающее производительность (20-30%).

Поскольку традиционные методы обеспечения безопасности кодов не работают при использовании ИИ, авторы исследования (доступ к полнотекстовому отчету требует регистрации) рекомендуют в таких случаях принять следующие меры:

  • отказаться от аудита кодов и вместо этого привнести аспект безопасности в процесс разработки (подход Secure by Design);
  • перераспределить роли и зоны ответственности — ИИ работает над реализацией, профессионалы концентрируют внимание на архитектуре, контролируют соблюдение требований безопасности, принимают решения по вопросам, требующим опыта и знания контекста;
  • заставить ИИ блюсти интересы безопасности — вставлять соответствующие инструкции в промпты, вводить архитектурные ограничения, интегрировать автоматически выполняемые правила в рабочие процессы, чтобы не пришлось устранять огрехи пост фактум;
  • применять ИИ-средства обеспечения безопасности, сравнимые по быстродействию с такими же помощниками по разработке.

По прогнозу «Монк Дидижтал Лаб», расширение использования генеративного ИИ в российских разработках к концу текущего года приведет к увеличению количества сбоев ИТ-инфраструктуры на 15-20% по сравнению с уровнем 2023-го.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru