Google представила CodeMender — ИИ, который сам патчит уязвимости в коде

Google представила CodeMender — ИИ, который сам патчит уязвимости в коде

Google представила CodeMender — ИИ, который сам патчит уязвимости в коде

Google не сбавляет темпы в деле защиты ПО с помощью искусственного интеллекта. На этот раз подразделение DeepMind представило новый ИИ-инструмент под названием CodeMender — агента, который автоматически обнаруживает, исправляет и переписывает уязвимый код, предотвращая возможные взломы и ошибки.

По словам исследователей DeepMind Ралуки Ады Попа и Фура Флинна, CodeMender умеет работать как реактивно, так и проактивно: то есть не только чинит новые баги сразу после их обнаружения, но и переписывает старый код, убирая целые классы уязвимостей.

«CodeMender помогает разработчикам и мейнтейнерам сосредоточиться на главном — создании хорошего ПО, автоматически создавая и применяя качественные патчи безопасности», — рассказали в DeepMind.

За последние полгода команда уже успела внести 72 исправления в открытые проекты, причём некоторые из них содержат до 4,5 миллиона строк кода.

В основе CodeMender лежат модели семейства Google Gemini Deep Think, которые анализируют, отлаживают и чинят код, устраняя первопричины уязвимостей.

При этом используется LLM-инструмент для критического анализа изменений: он сравнивает исходный и исправленный код, проверяет, не появились ли регрессии, и при необходимости сам себя корректирует.

Google планирует тестировать CodeMender на крупных опенсорс-проектах, предлагая их мейнтейнерам автоматические патчи и собирая обратную связь, чтобы улучшить качество инструмента.

Вдобавок компания запустила AI Vulnerability Reward Program (AI VRP) — программу поощрений за обнаружение уязвимостей в ИИ-продуктах Google. Исследователи смогут получить до $30 000 за отчёты о таких проблемах, как инъекция промпта, джейлбрейк и т. п.

Однако баги вроде галлюцинаций, обходов защитных фильтров или ошибок фактов в эту программу не входят.

По словам компании, цель всех этих шагов — использовать искусственный интеллект для усиления кибербезопасности и защиты разработчиков, а не наоборот:

«ИИ должен дать защитникам преимущество в борьбе с хакерами, мошенниками и государственными угрозами».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Массовые атаки стали сложнее, а их последствия – серьезнее

На конференции Positive Security Day руководитель направления аналитических исследований Positive Technologies Ирина Зиновкина рассказала о новых тенденциях в сфере массовых кибератак. По её словам, такие атаки не ограничиваются конкретной страной или отраслью.

Одной из их ключевых особенностей остаются низкие затраты на организацию. Однако простыми эти атаки назвать нельзя: злоумышленники всё чаще используют средства автоматизации, включая технологии искусственного интеллекта, и эта тенденция продолжит усиливаться.

В целом на массовые атаки приходится около 20% всех успешных инцидентов. Чаще всего киберпреступники эксплуатируют простые уязвимости в широко распространённом программном обеспечении. Нередко точкой входа становятся уязвимые веб-приложения.

Наиболее распространённые методы атак:

  • вредоносные программы — 56%;
  • эксплуатация уязвимостей — 47%;
  • социальная инженерия — 39%;
  • использование скомпрометированных учётных записей — 18%;
  • применение легального ПО (средства шифрования, удалённого доступа) — 5%;
  • компрометация цепочек поставок — 2%.

Среди классов вредоносных программ лидируют троянцы удалённого управления (34%), шпионские программы (22%), майнеры (19%) и шифровальщики (14%). При этом троянцы постепенно вытесняют классические шпионские решения. Шифровальщики в массовых атаках применяются относительно редко — их использование слишком сложно и дорого для организаторов подобных кампаний.

От массовых атак страдают не только конечные пользователи и малый бизнес, но и крупные компании, а также государственные структуры. Как отметила Ирина Зиновкина, в промышленности это связано с целым рядом факторов.

Активная цифровизация часто сопровождается применением незрелых технологий и решений, а также острой нехваткой квалифицированных специалистов по информационной безопасности — как по количеству, так и по уровню подготовки. Кроме того, промышленные предприятия нередко становятся объектами атак политически мотивированных активистов.

Атаки на государственные учреждения также нередко носят политически мотивированный характер. С технической точки зрения злоумышленникам помогает высокая доля устаревшего программного обеспечения, используемого в госсекторе.

Наиболее частые последствия массовых атак:

  • утечки данных (в более чем трети случаев — учётных данных) — 40%;
  • дальнейшее распространение атак (DDoS, фишинг) — 26%;
  • нарушение основной деятельности организаций — 24%;
  • ущерб интересам государства — 8%;
  • прямой финансовый ущерб — 6%.

При этом, как подчеркнула Ирина Зиновкина, практически все атаки так или иначе направлены на получение выгоды. В среднем доход их организаторов примерно в пять раз превышает понесённые затраты.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru