Использование генеративного ИИ ухудшает качество кода

Использование генеративного ИИ ухудшает качество кода

Использование генеративного ИИ ухудшает качество кода

Использование генеративного искусственного интеллекта (ИИ) в разработке программного обеспечения может негативно сказываться на качестве кода. Это связано с так называемыми «галлюцинациями» больших языковых моделей, риском утечек кода, а также с тем, что ИИ нередко воспроизводит уже существующие ошибки и уязвимости.

Влиянию генеративного ИИ на процессы разработки было посвящено выступление основателя компании CodeScoring Алексея Смирнова на конференции «День безопасной разработки», организованной Ассоциацией разработчиков программных продуктов (АРПП) «Отечественный софт».

Как отметил Алексей Смирнов, галлюцинации ИИ в контексте программирования чаще всего проявляются в рекомендациях использовать несуществующие библиотеки — таких случаев может быть до 20%. Причём ещё год назад эта проблема практически не наблюдалась.

По его мнению, этим недостатком могут воспользоваться злоумышленники, подсовывая разработчикам заведомо уязвимые или вредоносные компоненты. Особенно опасно то, что в 58% случаев галлюцинации ИИ повторяются — а значит, подобрать нужное название несуществующей библиотеки становится проще.

Смирнов также сообщил, что с появлением ИИ-ассистентов количество утечек кода увеличилось на 40%. Утечки данных, использованных для обучения нейросетей, в целом являются типичной проблемой. Например, в модели угроз, разработанной в Сбере, такая угроза считается одной из ключевых.

Кроме того, по данным CodeScoring, в каждом третьем случае ИИ-ассистенты воспроизводят уязвимости в коде. Таким образом, надежды на то, что генеративные инструменты смогут автоматически находить и устранять уязвимости, не оправдались. Более того, как подчеркнул Алексей Смирнов, накопленный опыт показывает, что применение генеративного ИИ затрудняет работу статических анализаторов кода.

Уязвимость в ZenCount не устраняют почти полгода

В базе данных угроз (БДУ) ФСТЭК появилась запись о критической уязвимости в российском видеосчётчике посетителей ZenCount. Проблема может привести к удалённому получению полного доступа к системе. По состоянию на момент публикации подтверждения её устранения не было уже более 160 дней с момента обнаружения.

Как сообщил ТАСС руководитель ИБ-компании CyberOK Сергей Гордейчик, уязвимость в ZenCount обнаружил сотрудник компании Роберт Торосян в октябре 2025 года. Уже в следующем месяце информация о ней была внесена в БДУ ФСТЭК.

«По сути проблемы в карточке указан неправильный контроль доступа. Это ситуация, когда продукт не ограничивает или некорректно ограничивает доступ к ресурсу со стороны неавторизованного субъекта. Для таких ошибок последствия часто выходят далеко за рамки „частной недоработки“: они могут означать доступ к данным, изменение данных или вмешательство в работу системы», — пояснил Сергей Гордейчик характер выявленной уязвимости.

Эта уязвимость получила очень высокий уровень опасности: минимальная оценка составляет 9,8 из 10 возможных. По данным на 26 марта, как уточнил глава CyberOK, сведений об её устранении не появилось даже спустя 163 дня после обнаружения.

При этом Сергей Гордейчик не исключил, что вендор может вести непубличную работу по исправлению проблемы. Однако со стороны складывается впечатление, что производитель её игнорирует, а для критической сетевой уязвимости, которая сравнительно легко эксплуатируется по базовой модели, это выглядит плохим сигналом. В то же время он отдельно отметил, что простота эксплуатации ещё не означает массового использования этой уязвимости в реальных атаках.

Как выяснил ТАСС, в России и за её пределами развернуто более 5 тыс. устройств ZenCount. Такие решения используют различные розничные сети одежды, а также «Детский мир», МТС и «МегаФон» в своих торговых точках.

«Не стоит сводить разговор к одному конкретному разработчику. Проблема шире. Системы видеонаблюдения и видеоаналитики, доступные извне без должной защиты или с тривиальными уязвимостями, к сожалению, действительно встречаются в Рунете. И речь может идти о совершенно разных классах решений: от домовых систем и домашних камер до более серьёзных платформ видеоаналитики», — предупредил Сергей Гордейчик.

Как ранее показало исследование компании «Кибериспытание», 60% из обследованных 74 организаций можно взломать менее чем за сутки, причём в 60% случаев такая атака могла бы полностью парализовать их бизнес.

RSS: Новости на портале Anti-Malware.ru