Использование генеративного ИИ ухудшает качество кода

Использование генеративного ИИ ухудшает качество кода

Использование генеративного ИИ ухудшает качество кода

Использование генеративного искусственного интеллекта (ИИ) в разработке программного обеспечения может негативно сказываться на качестве кода. Это связано с так называемыми «галлюцинациями» больших языковых моделей, риском утечек кода, а также с тем, что ИИ нередко воспроизводит уже существующие ошибки и уязвимости.

Влиянию генеративного ИИ на процессы разработки было посвящено выступление основателя компании CodeScoring Алексея Смирнова на конференции «День безопасной разработки», организованной Ассоциацией разработчиков программных продуктов (АРПП) «Отечественный софт».

Как отметил Алексей Смирнов, галлюцинации ИИ в контексте программирования чаще всего проявляются в рекомендациях использовать несуществующие библиотеки — таких случаев может быть до 20%. Причём ещё год назад эта проблема практически не наблюдалась.

По его мнению, этим недостатком могут воспользоваться злоумышленники, подсовывая разработчикам заведомо уязвимые или вредоносные компоненты. Особенно опасно то, что в 58% случаев галлюцинации ИИ повторяются — а значит, подобрать нужное название несуществующей библиотеки становится проще.

Смирнов также сообщил, что с появлением ИИ-ассистентов количество утечек кода увеличилось на 40%. Утечки данных, использованных для обучения нейросетей, в целом являются типичной проблемой. Например, в модели угроз, разработанной в Сбере, такая угроза считается одной из ключевых.

Кроме того, по данным CodeScoring, в каждом третьем случае ИИ-ассистенты воспроизводят уязвимости в коде. Таким образом, надежды на то, что генеративные инструменты смогут автоматически находить и устранять уязвимости, не оправдались. Более того, как подчеркнул Алексей Смирнов, накопленный опыт показывает, что применение генеративного ИИ затрудняет работу статических анализаторов кода.

Telegram перестал доставлять пуш-уведомления россиянам

Если Telegram вдруг перестал присылать уведомления, а новые сообщения обнаруживаются только после открытия приложения, вы не одиноки. На проблему массово жалуются пользователи по всей России, и дело, как выясняется, вовсе не в самом мессенджере.

Директор департамента расследований компании T.Hunter Игорь Бедеров объяснил, что большинство пользователей неправильно представляет себе работу пуш-уведомлений.

На первый взгляд всё выглядит просто: кто-то отправил сообщение — Telegram доставил уведомление на смартфон. Но в реальности между этими событиями есть ещё один важный посредник.

На Android за доставку уведомлений отвечает сервис Google Firebase Cloud Messaging (FCM), а на iPhone — Apple Push Notification Service (APNs). Когда приходит новое сообщение, Telegram сначала отправляет сигнал на серверы Google или Apple, а уже они будят приложение на устройстве пользователя и показывают уведомление.

Проблема в том, что именно инфраструктура этих сервисов уже длительное время сталкивается с ограничениями на сетях российских операторов связи.

По словам Бедерова, Telegram умеет поддерживать работу через собственные механизмы подключения и прокси-протоколы, однако системная доставка уведомлений от них не зависит.

В результате возникает странная ситуация. Если Telegram открыт или недавно работал в фоне, сообщение может прийти напрямую, а уведомление появится практически мгновенно. Но стоит заблокировать смартфон и выгрузить приложение из памяти, и всё начинает зависеть от Google или Apple.

Если этот канал недоступен, пользователь получает знакомый эффект: новые сообщения есть, а уведомлений нет.

Эксперт называет происходящее примером архитектурного конфликта между глобальным сервисом и локальными сетевыми ограничениями.

По его словам, Telegram знает о проблеме и уже работает над собственным механизмом доставки уведомлений, который не будет зависеть от инфраструктуры Google и Apple. Однако пока эта система остаётся нестабильной и поддерживается не на всех устройствах.

RSS: Новости на портале Anti-Malware.ru