Использование генеративного ИИ ухудшает качество кода

Использование генеративного ИИ ухудшает качество кода

Использование генеративного ИИ ухудшает качество кода

Использование генеративного искусственного интеллекта (ИИ) в разработке программного обеспечения может негативно сказываться на качестве кода. Это связано с так называемыми «галлюцинациями» больших языковых моделей, риском утечек кода, а также с тем, что ИИ нередко воспроизводит уже существующие ошибки и уязвимости.

Влиянию генеративного ИИ на процессы разработки было посвящено выступление основателя компании CodeScoring Алексея Смирнова на конференции «День безопасной разработки», организованной Ассоциацией разработчиков программных продуктов (АРПП) «Отечественный софт».

Как отметил Алексей Смирнов, галлюцинации ИИ в контексте программирования чаще всего проявляются в рекомендациях использовать несуществующие библиотеки — таких случаев может быть до 20%. Причём ещё год назад эта проблема практически не наблюдалась.

По его мнению, этим недостатком могут воспользоваться злоумышленники, подсовывая разработчикам заведомо уязвимые или вредоносные компоненты. Особенно опасно то, что в 58% случаев галлюцинации ИИ повторяются — а значит, подобрать нужное название несуществующей библиотеки становится проще.

Смирнов также сообщил, что с появлением ИИ-ассистентов количество утечек кода увеличилось на 40%. Утечки данных, использованных для обучения нейросетей, в целом являются типичной проблемой. Например, в модели угроз, разработанной в Сбере, такая угроза считается одной из ключевых.

Кроме того, по данным CodeScoring, в каждом третьем случае ИИ-ассистенты воспроизводят уязвимости в коде. Таким образом, надежды на то, что генеративные инструменты смогут автоматически находить и устранять уязвимости, не оправдались. Более того, как подчеркнул Алексей Смирнов, накопленный опыт показывает, что применение генеративного ИИ затрудняет работу статических анализаторов кода.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Яндекс за полгода заблокировал 2,9 млрд вредоносных писем

С начала 2025 года почтовые серверы Яндекс 360 обработали более 45 миллиардов входящих писем. Из них около 8,4 миллиарда оказались спамом. Примерно 2,9 миллиарда сообщений были признаны вредоносными и заблокированы сразу, ещё 5,5 миллиарда писем ушли в папку «Спам».

Это меньше, чем в первой половине 2024 года, когда объём спама превышал 12 миллиардов писем. Аналитики отмечают, что общий уровень почтовых угроз снижается уже пятый год подряд — но это не мешает злоумышленникам придумывать новые схемы.

В этом году в почтовом трафике особенно выделяется так называемый «картиночный спам» — письма, где вместо текста используются вложенные изображения. Обычно это рекламные баннеры с предложениями лёгкого заработка, онлайн-казино и лотерей. Под такие письма раньше было сложнее настроить фильтры, но защита уже научилась распознавать подобные вложения — за счёт распознавания текста и логотипов прямо на изображениях.

Появился и новый механизм ReCheck — он повторно проверяет письма после доставки, если позже о них становится известно что-то подозрительное. Алгоритмы анализируют не только отправителя, но и структуру письма, ссылки, вложения — всего около 10 тысяч признаков. Пользователи тоже участвуют в процессе: если кто-то вручную помечает письмо как спам, фильтры получают новый сигнал для обучения.

Среди других массовых схем в 2025 году — вредоносные PDF-файлы, фейковые вакансии и спам-рассылки с предложениями пройти курсы. Было выявлено свыше 2,9 миллиарда фишинговых писем и более 13 миллионов попыток спуфинга — подделки адреса отправителя. Все такие сообщения либо блокировались, либо перемещались в «Спам».

Отдельно аналитики отмечают ещё одну схему — спам через календари. Мошенники создают фейковые события и приглашают на них пользователей. В описаниях встреч — ссылки на спам-контент. Далее жертва начинает получать пуш-уведомления уже не по почте, а от календаря. Таких событий за полгода было выявлено и удалено более 35 тысяч.

Пик активности спамеров пришёлся на январь и праздничные периоды — февраль, март и май. В это время, как правило, растёт активность онлайн-покупок и рассылок. Снижение зафиксировали лишь с середины марта по апрель.

Больше всего спама получили пользователи из крупных городов. Лидируют Москва (почти 2 миллиарда писем), Санкт-Петербург (540 миллионов) и Екатеринбург (181 миллион).

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru