Эффект от использования искусственного интеллекта в разработке ПО действительно есть. Но он оказался неоднозначным и проявляется не там, где этого ожидали. Кроме того, начинается проникновение ИИ в системный софт, результаты чего станут видны через несколько лет. Об этом говорили 20 июня на конференции OS Day 2025.
- Введение
- ИИ для написания кода. Эта штука работает, но плохо
- Аудит кода. Уже теплее
- Целились по рутине, попали по джунам
- Какие функции отдадут ИИ разработчики ОС?
- Выводы
Введение
Разговоры о том, чтобы программный код генерировался автоматически, можно отсчитывать от начала 1980-х годов, с появления программы разработки ЭВМ 5-го поколения, которая была развернута в Японии. Ее целью стало создание системы с производительностью суперкомпьютера и с функциями искусственного интеллекта.
К тому времени Япония достигла больших успехов в развитии электроники, так что этот вызов был воспринят очень серьезно. Аналогичные программы появились в нескольких странах. Не стал исключением и СССР, где был развернут проект «Модульные Асинхронные Развиваемые Системы» — МАРС (рис. 1). Он был успешно завершен, но его результаты оказались не востребованы и продолжения он не получил.
Рисунок 1. Одна из стоек МАРС
Японский проект закончился полным провалом. Предложенные аппаратные решения оказались неконкурентоспособными, а появление интернета сделало саму концепцию безнадежно устаревшей. Также средства разработки, которые использовались тогда, не могли использовать параллельные вычисления. В итоге о самой концепции забыли, и надолго.
Однако с появлением генеративного ИИ практически сразу начались попытки применить его для разработки программного кода и его аудита. Сразу же появились прогнозы, согласно которым отрасль разработки ПО ждет радикальная трансформация.
Реальность же оказалась несколько иной. В ходе круглого стола «Безопасность операционных систем в контексте искусственного интеллекта», который прошел в рамках XII конференции OS Day, представители российских разработчиков системного ПО (рис. 2) поделились практическим опытом применения ИИ в процессе разработки.
Рисунок 2. Участники круглого стола «Безопасность операционных систем в контексте искусственного интеллекта»
ИИ для написания кода. Эта штука работает, но плохо
Как отметил модератор дискуссии, вице-президент, директор департамента перспективных технологий «Лаборатории Касперского» Андрей Духвалов (рис. 3), открывая дискуссию, генеративный ИИ развивается очень быстро и динамично. В итоге он постоянно захватывает новые ниши. Одной из них является создания кода, что привело к появлению неологизма «вайбкодинг» (от английского vibe — дух, атмосфера). Многие считали, что труд разработчика скоро сведется к составлению промптов-заданий для нейросетей и выбору наиболее эффективных инструментов.
Рисунок 3. Вице-президент «Лаборатории Касперского» Андрей Духвалов
Однако действительность оказалась не столь радужной. Как отметил инженер-разработчик «НТЦ ИТ РОСА» Михаил Новоселов (рис. 4), генеративный ИИ крайне сложно заставить нормально работать, если речь идет о серьезных проектах. Плюс ко всему, генеративный ИИ склонен к логическим ошибкам, и допускает их чаще, чем люди. Программисты же остаются инженерами, и без фундаментальных знаний и целого комплекса практических навыков никакой ИИ не поможет создавать код.
Рисунок 4. Инженер-разработчик «НТЦ ИТ РОСА» Михаил Новоселов (в центре)
Генеративный ИИ, по его мнению, пригоден только для отдельных частных задач, например, связанных с преобразованием данных. Особенно если речь идет об их больших массивах, с чем люди не могут справиться физически. И то, из-за риска галлюцинаций результаты будут требовать проверки.
Руководитель экспертизы по сопровождению СУБД департамента развития платформы данных «Газпромбанка», преподаватель РЭУ им. Г. В. Плеханова Екатерина Свиридова (рис. 5) назвала возможной нишей для генеративного ИИ решение возникающей в ходе миграции с зарубежных на российские СУБД задачи по переработке кода запросов для переноса бизнес-логики. Другая довольно часто встречающаяся задача — перенос кода с одного языка на другой. Это очень трудоемкая работа, и генеративный ИИ, который очень быстро развивается, может помочь значительно ускорить решение данных задач если не прямо сейчас, то спустя некоторое время. Однако и тут нужен ручной контроль.
Рисунок 5. Руководитель экспертизы по сопровождению СУБД в «Газпромбанке» Екатерина Свиридова (в центре)
Специалист отдела технологий защиты вычислительных сетей НТП «Криптософт» Егор Васин (рис. 6) назвал серьезной угрозой, которую сложно предотвратить, последствия ошибок в датасетах, которые использовались для обучения нейросетей. Особенно если речь идет о тех, которые были внедрены туда намеренно. По общему мнению участников дискуссии, серьезный риск создают также так называемые галлюцинации ИИ. Они могут проявляться и при создании программного кода.
Рисунок 6. Специалист отдела технологий защиты вычислительных сетей НТП «Криптософт» Егор Васин (слева)
Аудит кода. Уже теплее
Одной из задач, для решения которых сразу же предложили использовать генеративный ИИ, стал аудит программного кода. Так, ассистента с ИИ уже запустил репозиторий кода GitHub.
И уже есть примеры того, как соответствующие инструменты действительно помогали находить ошибки и уязвимости. Например, исследователь Шон Хилан нашел с помощью большой языковой модели o3 уязвимость в ядре Linux.
Руководитель отдела безопасности разработки программного обеспечения «Базальт СПО» Николай Костригин (рис. 7) назвал перспективной задачей для генеративного ИИ анализ кода, в том числе для выявления уязвимостей. Это очень важная задача, и ее успешное решение позволит существенно повысить уровень доверия к разработчикам. Пока в «Базальт СПО» применение ИИ для таких задач только тестируют.
Рисунок 7. Руководитель отдела безопасности разработки «Базальт СПО» Николай Костригин (в центре)
Руководитель исследовательской группы по разработке и применению ИИ-инструментов в программной инженерии ИСП РАН Константин Сорокин (рис. 8) назвал ИИ полезным инструментом для специалистов по безопасной разработке. Однако речь идет лишь об ассистентах, которые облегчают работу, по крайней мере, если речь идет о системном ПО. Такие ассистенты нужно встраивать в инструментарий для специалистов по DevSecOps.
Рисунок 8. Руководитель исследовательской группы ИИ-инструментов ИСП РАН Константин Сорокин (в центре)
Начальник отдела продуктовой экспертизы «Открытой мобильной платформы» Сергей Аносов (рис. 9) назвал ключевым вопросом доверие к ИИ. Это, по его оценке, вопрос поколенческий. В настоящее время среди разработчиков доминируют представители поколения Y (1984–1999 годов рождения), которое довольно критично настроено ко многим технологиям, ИИ в том числе. У новых поколений, в том числе уже вышедших на рынок труда представителей поколения альфа (2000–2015 годов рождения) таких препятствий уже нет. По его оценке, технологии ИИ готовы для решения многих задач уже сейчас, и с их помощью обнаруживаются ошибки, о которых не подозревали годами.
Вместе с тем, как напомнил Сергей Аносов, ИИ используют и злоумышленники. Причем делают это довольно эффективно, в итоге стоимость многих атак снижается даже не в разы, а в десятки раз. В частности, генеративный ИИ помогает быстро создавать эксплойты.
Рисунок 9. Начальник отдела продуктовой экспертизы «Открытой мобильной платформы» Сергей Аносов (в центре)
Целились по рутине, попали по джунам
Как напомнил Сергей Аносов, многие задачи по разбору кода поручали стажерам и начинающим специалистам без большого практического опыта (или «джунам» на профессиональном сленге), чье время не стоит слишком дорого. Эти задачи не требуют высокой квалификации, но трудоемки и не слишком интересны. В качестве возможной замены Сергей Аносов предложил поручать стажерам и начинающим задачи, связанные с обучением ИИ.
Помимо разбора кода, как напомнил Андрей Духвалов, ИИ может выполнять и другие задачи, которые традиционно поручали начинающим. Но, с другой стороны, именно их решение позволяло начинающим разработчикам набраться опыта и приступать к более профессиональным и содержательным задачам.
Руководитель проектов по внедрению ИИ в компании РЕД СОФТ Егор Смирнов (рис. 10) назвал использование ИИ фактором, который скорее усложняет подготовку кадров. Следствием становится изменение требований к кадрам. Спрос на джунов, и без того низкий, опустится еще ниже, тогда как требования к потенциальным сотрудникам со стороны работодателей серьезно вырастут. С другой стороны, применение ИИ, по его мнению, способен быстрее разделить разработчиков на кодеров и специалистов других направлений.
Рисунок 10. Руководитель проектов по внедрению ИИ в РЕД СОФТ Егор Смирнов (справа)
По данным статистики, уже более трех четвертей американских школьников используют генеративный ИИ для выполнения домашних заданий. Это вызывает большую тревогу педагогов и родителей, поскольку данная практика приводит к тому, что знания и навыки, которые должны получать учащиеся, не усваиваются и не закрепляются.
Среди студентов ИТ-специальностей, как поделилась своими наблюдениями Екатерина Свиридова, такая практика также широко распространена. Причем к использованию ИИ студенты чаще прибегают тогда, как пропустили ту или иную тему или ее недостаточно поняли. Когда преподаватель в ходе защиты лабораторной работы просит объяснить, что делает тот или иной фрагмент кода, такой студент просто впадает в ступор.
Константин Сорокин назвал последствия сложившейся в отрасли ситуации серьезным вызовом, причем как для компаний, так и для соискателей. Вчерашним выпускникам вузов придется решать целый комплекс дополнительных задач, чтобы этим требованиям соответствовать, а это может оказаться непросто. Да и компаниям все равно придется как-то решать задачу подготовки кадров нужной квалификации, которых не хватает.
Толику оптимизма внес Михаил Новоселов. По его мнению, скорее рано, чем поздно студент, который полагается на генеративный ИИ, столкнется с тем, что LLM не сможет решить задачу. Это может стать стимулом для того, чтобы учиться по-настоящему.
Какие функции отдадут ИИ разработчики ОС?
Как отметил Сергей Аносов, крупнейшие технологические компании уже ведут работу по переводу по крайней мере части функций системного ПО искусственному интеллекту. Тут наиболее активен глава Microsoft Сатья Наделла. Как напомнил Сергей Аносов, в одном из недавних выступлений он пообещал возложить на ИИ большую часть, если не вообще все функции взаимодействия пользователя с ОС. В том же ключе высказывались также представители Apple.
Как это будет на практике, по мнению Сергея Аносова, зависит от самих пользователей. На откуп ИИ будет отдано то, что не вызовет у широких масс отторжения. Но в целом данный процесс, как отметил представитель «Открытой мобильной платформы», только начинается и как далеко он зайдет не очень понятно.
Михаил Новоселов предположил, что ИИ может взять на себя и управление системными ресурсами, будь то процессорное время или оперативная память. В частности, он может взять на себя часть функций планировщика задач. Это позволит сделать гибче управление системой в зависимости от сценария использования системы. По мнению Михаила Новоселова, DeepSeek или GigaChat вполне можно приспособить для данной задачи.
По прогнозу, который дал Сергей Аносов, уже в обозримой, хотя и довольно отдаленной перспективе можно будет говорить не только об использовании ИИ в безопасной разработке, но и о генерации приложений и драйверов устройств по запросу пользователя. Именно это было одной из главных задач провалившегося японского проекта по созданию ЭВМ 5 поколения.
Выводы
Вытеснения людей из сферы разработки ПО генеративным ИИ не случится. Качество генерируемого ИИ кода крайне низкое, часто он просто не работает. Применение его для аудита, в частности, для выявления ошибок, также не гарантирует положительного результата. Возможной нишей является выявление ложных срабатываний анализаторов кода, но и это требует контроля со стороны специалистов-людей.
Однако использование ИИ уже оказывает влияние на сферу подготовки кадров. Значительная часть учащихся и студентов использует генеративный ИИ для выполнения учебных заданий, что мешает закреплению нужных знаний и навыков. Плюс ко всему, генеративный ИИ довольно успешно выполняет те задачи, которые делегировались стажерам и начинающих сотрудникам. Это может серьезно сказаться на требованиях к сотрудникам, причем уже в ближайшем будущем.
Такая ситуация грозит стать серьезным вызовом как для компаний, так и для будущих разработчиков. Компаниям надо будет озаботиться переподготовкой имеющихся кадров, а потенциальным соискателям быть готовыми к существенному усилению требований при приеме на работу.
