Использование генеративного ИИ ухудшает качество кода

Использование генеративного ИИ ухудшает качество кода

Использование генеративного ИИ ухудшает качество кода

Использование генеративного искусственного интеллекта (ИИ) в разработке программного обеспечения может негативно сказываться на качестве кода. Это связано с так называемыми «галлюцинациями» больших языковых моделей, риском утечек кода, а также с тем, что ИИ нередко воспроизводит уже существующие ошибки и уязвимости.

Влиянию генеративного ИИ на процессы разработки было посвящено выступление основателя компании CodeScoring Алексея Смирнова на конференции «День безопасной разработки», организованной Ассоциацией разработчиков программных продуктов (АРПП) «Отечественный софт».

Как отметил Алексей Смирнов, галлюцинации ИИ в контексте программирования чаще всего проявляются в рекомендациях использовать несуществующие библиотеки — таких случаев может быть до 20%. Причём ещё год назад эта проблема практически не наблюдалась.

По его мнению, этим недостатком могут воспользоваться злоумышленники, подсовывая разработчикам заведомо уязвимые или вредоносные компоненты. Особенно опасно то, что в 58% случаев галлюцинации ИИ повторяются — а значит, подобрать нужное название несуществующей библиотеки становится проще.

Смирнов также сообщил, что с появлением ИИ-ассистентов количество утечек кода увеличилось на 40%. Утечки данных, использованных для обучения нейросетей, в целом являются типичной проблемой. Например, в модели угроз, разработанной в Сбере, такая угроза считается одной из ключевых.

Кроме того, по данным CodeScoring, в каждом третьем случае ИИ-ассистенты воспроизводят уязвимости в коде. Таким образом, надежды на то, что генеративные инструменты смогут автоматически находить и устранять уязвимости, не оправдались. Более того, как подчеркнул Алексей Смирнов, накопленный опыт показывает, что применение генеративного ИИ затрудняет работу статических анализаторов кода.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Спрос на ИИ-расшифровку медицинских анализов в России вырос в 8 раз

Сервис «СберЗдоровье» отмечает значительный рост обращений пользователей, связанных с расшифровкой результатов анализов и медицинских исследований. При этом пользователи всё чаще ожидают не только интерпретации показателей, но и составления персонализированного плана дальнейших обследований.

По данным сервиса за период с мая по октябрь 2025 года, количество запросов на интерпретацию анализов выросло в восемь раз в годовом выражении. Число обращений с просьбой сформировать план действий на основе результатов увеличилось на 41%.

Чаще всего пользователи просят объяснить результаты следующих исследований:

  • гормоны щитовидной железы (ТТГ, Т3, Т4, АТ-ТПО);
  • показатели обмена железа (ферритин, гемоглобин, железо);
  • липидный профиль / холестерин;
  • витамины D и B12;
  • показатели функции печени (АЛТ, АСТ, ГГТ, билирубин).

«Рост спроса связан с удобством и скоростью получения информации о состоянии здоровья. Сервис расшифровки анализов на базе искусственного интеллекта позволяет пациентам быстро получить предварительную оценку еще до консультации с врачом», — рассказал «Коммерсанту» управляющий директор «СберЗдоровья» Иван Виноградов.

Однако медицинское сообщество выражает обеспокоенность. Основатель сети Grand Clinic Ольга Шуппо отметила, что решения ИИ могут основываться на усреднённых референсных значениях, не учитывающих индивидуальные особенности пациента, его анамнез и клиническую картину.

По её словам, это может привести к хронизации заболеваний, появлению новых проблем из-за ошибочных рекомендаций и в целом к ухудшению качества здоровья населения.

Совладелец сети клиник доктора Омарова Зарема Омарова подчеркнула, что без контекста — данных о возрасте, жалобах, истории болезни — любые числовые отклонения в анализах малоинформативны.

Научный сотрудник НМИЦ терапии и профилактической медицины Минздрава Евгения Грицаева напомнила, что, например, слегка повышенный ТТГ можно ошибочно принять за гипотиреоз и назначить ненужное лечение. Опасность могут представлять и рекомендации принимать высокие дозы витамина D. В то же время ИИ может пропустить серьёзное отклонение, решив, что оно несущественно.

Руководитель качества нейросети Алисы AI Никита Рыжиков отметил, что алгоритмы не способны давать полностью точные рекомендации, и все советы сопровождаются напоминанием: окончательный диагноз и назначение терапии — зона ответственности квалифицированного врача.

Ранее вице-спикер Госдумы Борис Чернышов предложил маркировать все медицинские рекомендации нейросетей и запретить им назначать лекарственные препараты. Основание — отсутствие какой-либо ответственности ИИ за последствия для пользователей.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru