Использование генеративного ИИ ухудшает качество кода

Использование генеративного ИИ ухудшает качество кода

Использование генеративного ИИ ухудшает качество кода

Использование генеративного искусственного интеллекта (ИИ) в разработке программного обеспечения может негативно сказываться на качестве кода. Это связано с так называемыми «галлюцинациями» больших языковых моделей, риском утечек кода, а также с тем, что ИИ нередко воспроизводит уже существующие ошибки и уязвимости.

Влиянию генеративного ИИ на процессы разработки было посвящено выступление основателя компании CodeScoring Алексея Смирнова на конференции «День безопасной разработки», организованной Ассоциацией разработчиков программных продуктов (АРПП) «Отечественный софт».

Как отметил Алексей Смирнов, галлюцинации ИИ в контексте программирования чаще всего проявляются в рекомендациях использовать несуществующие библиотеки — таких случаев может быть до 20%. Причём ещё год назад эта проблема практически не наблюдалась.

По его мнению, этим недостатком могут воспользоваться злоумышленники, подсовывая разработчикам заведомо уязвимые или вредоносные компоненты. Особенно опасно то, что в 58% случаев галлюцинации ИИ повторяются — а значит, подобрать нужное название несуществующей библиотеки становится проще.

Смирнов также сообщил, что с появлением ИИ-ассистентов количество утечек кода увеличилось на 40%. Утечки данных, использованных для обучения нейросетей, в целом являются типичной проблемой. Например, в модели угроз, разработанной в Сбере, такая угроза считается одной из ключевых.

Кроме того, по данным CodeScoring, в каждом третьем случае ИИ-ассистенты воспроизводят уязвимости в коде. Таким образом, надежды на то, что генеративные инструменты смогут автоматически находить и устранять уязвимости, не оправдались. Более того, как подчеркнул Алексей Смирнов, накопленный опыт показывает, что применение генеративного ИИ затрудняет работу статических анализаторов кода.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Число сложных кибератак на компании в России увеличилось на 13%

В первой половине 2025 года специалисты «Кода Безопасности» зафиксировали рост числа атак на российские организации. По сравнению с концом 2024-го инцидентов стало больше примерно на 10–12%. Причём серьёзных, критичных случаев прибавилось ещё больше — плюс 13%.

Эксперты объясняют это тем, что злоумышленники всё чаще используют целевые атаки и более изощрённые методы.

Подготовка к таким кампаниям может занимать до полугода: хакеры собирают максимум информации о компании, получают доступ к самым защищённым сегментам и только потом переходят к активным действиям. В результате удар по инфраструктуре может привести к полному отказу сервисов.

Среди популярных техник — атаки «подручными средствами» (LotL), когда злоумышленники используют легитимные программы вроде PowerShell, WMI, RDP, PsExec или AnyDesk. Так они обходят привычные средства защиты, и обнаружить такие действия на ранних стадиях становится очень сложно.

Ещё один тренд — атаки на цепочку поставок (SCA). В этом случае хакеры сначала проникают в небольшие или средние компании-партнёры, где уровень защиты обычно ниже, а затем через них выходят на инфраструктуру крупных предприятий.

Социальная инженерия, как и прежде, остаётся любимым инструментом злоумышленников. Всё чаще речь идёт о таргетированных фишинговых рассылках, причём многие из них уже создаются с помощью ИИ. Такие письма становятся всё более убедительными и могут обмануть даже опытных сотрудников.

Если говорить о вредоносном софте, то в лидерах остаются трояны удалённого доступа (RAT), стилеры и загрузчики/дропперы. Последние особенно опасны: они не просто внедряют вредоносный код через фишинг или скомпрометированные сервисы, но и подгружают дополнительные инструменты — RAT, стилеры или эксплойты — в зависимости от ситуации. Это делает атаку гибкой и малозаметной.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru