Российские эксперты разглядели риски использования GitHub Copilot хакерами

Российские эксперты разглядели риски использования GitHub Copilot хакерами

Российские эксперты разглядели риски использования GitHub Copilot хакерами

GitHub Copilot изначально создавался в помощь программистам, чтобы упростить работу с кодом. Однако специалисты в области кибербезопасности предупреждают, что основанный на нейросети сервис могут использовать авторы вредоносных программ.

Copilot, созданный GitHub на базе искусственного интеллекта, действует по принципу клавиатур на мобильных устройствах — дополняет строки и даже целые функции в коде.

Специалисты GitHub в конце июня представили этот сервис, а для его разработки потребовалась помощь OpenAI. Ожидается, что Copilot сможет существенно упростить девелоперам жизнь.

Как мы уже писали ранее, в процессе разработки сервиса специалисты тренировали его на миллиардах строк кода. И теперь, когда условный разработчик пишет код, GitHub Copilot выдаёт предложения, которыми можно воспользоваться для более продуктивного кодинга.

Парсинг закомментированных кусков помогает сервису понять, над чем именно разработчик работает в данный момент. На пример работы GitHub Copilot можно посмотреть здесь.

Российские эксперты в области кибербезопасности, слова которых передают «Известия», считают, что нововведение GitHub может пригодиться не только разработчикам софта, но и киберпреступникам. Во-первых, авторы вредоносного кода получают возможность писать его быстрее, во-вторых — наличие подобного сервиса предполагает появление новых создателей зловредов, поскольку эта процедура в целом упростилась.

Эксперт GIS, заместитель генерального директора — технический директор компании «Газинформсервис» Николай Нашивочников рассказал об опасности использования нового бота для программистов хакерами:

«С появлением автоматизированных средств разработки угрозы для безопасности приложений, несомненно, возрастают. Как мы видим, новые сервисы упрощают жизнь не только "белым" разработчикам, но и вирусописателям. Но кроме этой очевидной сентенции есть и другие вопросы, касающиеся информационной безопасности.

Следует учитывать, как проходит обучение сети, если «хакерам» удастся внедрить опасную конструкцию в систему "подсказок" Copilot и она начнёт предлагать разработчикам вставлять эту уязвимость в их код, в итоге мы можем получить более массовое распространение уязвимости.

Также специалисты говорят про возможность банальной кражи чужого кода. Примерно в 0,1% случаев код будет дословно взят из обучающей выборки. В остальных 99,9% случаев сервис использует обучающую выборку в качестве основы для синтеза чего-то нового. Граница не столь чётко определена, как хотелось бы GitHub».

ScanFactory выходит на рынок ИИ-фаерволов с решением Prizma

ScanFactory представила новый продукт Prizma — решение для контроля и защиты корпоративной ИИ-инфраструктуры. Продукт позволяет компаниям безопасно использовать LLM и ИИ-агентов, контролируя данные, доступы, расходы и взаимодействие с внешними ИИ-сервисами.

Корпоративное использование искусственного интеллекта быстро растет: сотрудники подключают публичные LLM, команды внедряют ИИ-агентов и RAG-системы, а количество обращений к различным моделям увеличивается. Вместе с этим у компаний появляется новый класс рисков — от утечек конфиденциальных данных до неконтролируемого теневого AI.

Prizma работает как единая точка контроля между пользователями, корпоративными системами и ИИ-провайдерами. Решение анализирует запросы и ответы в реальном времени и позволяет централизованно управлять тем, как внутри компании используется искусственный интеллект.

Что умеет Prizma

Контролировать потребление токенов — учитывать использование моделей и расходы на ИИ у разных провайдеров из единой точки.

Защищать от AI-атак — выявлять и блокировать prompt injection и другие классы атак, включая угрозы из OWASP LLM Top 10.

Предотвращать утечки данных — находить и маскировать конфиденциальную информацию в запросах к ИИ и ответах моделей.

Автоматически блокировать опасные запросы на основе заданных политик безопасности.

Управлять ИИ-агентами с помощью ролевой модели и графа их взаимодействий.

Логировать и аудитировать обращения к ИИ, обеспечивая прозрачность использования моделей внутри компании.

Не только защита запросов

Отдельное внимание в Prizma уделено рискам, которые возникают при построении собственной ИИ-инфраструктуры.

Решение позволяет защищать RAG-системы, обнаруживая секреты и чувствительную информацию в используемых файлах, а также выявлять теневые AI — несанкционированное использование ИИ-сервисов внутри инфраструктуры компании.

Для критических сценариев предусмотрен kill switch на основе ролевой модели, позволяющий оперативно ограничить работу отдельных ИИ-агентов или цепочек взаимодействия.

Таким образом, Prizma формирует единый уровень безопасности между корпоративной инфраструктурой и ИИ — от публичных LLM до внутренних моделей, RAG-систем и автономных агентов.

С выходом Prizma ScanFactory расширяет направление кибербезопасности и выходит в новый для компании сегмент — защиту корпоративной ИИ-инфраструктуры.

Записаться на демонстрацию продукта и запросить сравнение по 83 пунктам можно по почте: info@sf-cloud.ru

Реклама, 18+. ООО «СканФэктори» ИНН 7727458406
ERID: 2Vfnxw2mxV1

RSS: Новости на портале Anti-Malware.ru