Российские эксперты разглядели риски использования GitHub Copilot хакерами

Российские эксперты разглядели риски использования GitHub Copilot хакерами

Российские эксперты разглядели риски использования GitHub Copilot хакерами

GitHub Copilot изначально создавался в помощь программистам, чтобы упростить работу с кодом. Однако специалисты в области кибербезопасности предупреждают, что основанный на нейросети сервис могут использовать авторы вредоносных программ.

Copilot, созданный GitHub на базе искусственного интеллекта, действует по принципу клавиатур на мобильных устройствах — дополняет строки и даже целые функции в коде.

Специалисты GitHub в конце июня представили этот сервис, а для его разработки потребовалась помощь OpenAI. Ожидается, что Copilot сможет существенно упростить девелоперам жизнь.

Как мы уже писали ранее, в процессе разработки сервиса специалисты тренировали его на миллиардах строк кода. И теперь, когда условный разработчик пишет код, GitHub Copilot выдаёт предложения, которыми можно воспользоваться для более продуктивного кодинга.

Парсинг закомментированных кусков помогает сервису понять, над чем именно разработчик работает в данный момент. На пример работы GitHub Copilot можно посмотреть здесь.

Российские эксперты в области кибербезопасности, слова которых передают «Известия», считают, что нововведение GitHub может пригодиться не только разработчикам софта, но и киберпреступникам. Во-первых, авторы вредоносного кода получают возможность писать его быстрее, во-вторых — наличие подобного сервиса предполагает появление новых создателей зловредов, поскольку эта процедура в целом упростилась.

Эксперт GIS, заместитель генерального директора — технический директор компании «Газинформсервис» Николай Нашивочников рассказал об опасности использования нового бота для программистов хакерами:

«С появлением автоматизированных средств разработки угрозы для безопасности приложений, несомненно, возрастают. Как мы видим, новые сервисы упрощают жизнь не только "белым" разработчикам, но и вирусописателям. Но кроме этой очевидной сентенции есть и другие вопросы, касающиеся информационной безопасности.

Следует учитывать, как проходит обучение сети, если «хакерам» удастся внедрить опасную конструкцию в систему "подсказок" Copilot и она начнёт предлагать разработчикам вставлять эту уязвимость в их код, в итоге мы можем получить более массовое распространение уязвимости.

Также специалисты говорят про возможность банальной кражи чужого кода. Примерно в 0,1% случаев код будет дословно взят из обучающей выборки. В остальных 99,9% случаев сервис использует обучающую выборку в качестве основы для синтеза чего-то нового. Граница не столь чётко определена, как хотелось бы GitHub».

Создатель Диспетчера задач объяснил, почему загрузка CPU в Windows врёт

Бывший инженер Microsoft Дэйв Пламмер, приложивший руку к таким знаковым вещам, как поддержка ZIP в Windows и меню «Пуск» в Windows NT, рассказал, как на самом деле Диспетчер задач считает загрузку процессора. И заодно объяснил, почему цифры в этом инструменте иногда кажутся немного странными, особенно если сравнивать их с тем, как компьютер ощущается в реальной работе.

По словам Пламмера, идея просто показать, насколько занят процессор на деле куда сложнее, чем кажется.

Вопросов тут сразу слишком много: занят чем именно, на одном ядре или на всех, прямо сейчас или в среднем за последние секунды, в пользовательском режиме или на уровне ядра? Как только начинаешь во всём этом разбираться, простая шкала загрузки уже перестаёт выглядеть такой уж простой.

Сам Диспетчер задач, как объяснил Пламмер, работает не в режиме мгновенного измерения. Он обновляет данные через определённые интервалы, то есть показывает скорее интерпретацию того, что происходило между обновлениями, а не живую картину в каждый конкретный момент. Поэтому цифры на экране — это всегда усреднённый результат, а не моментальный снимок состояния процессора.

Самым очевидным решением мог бы быть простой расчёт по времени между обновлениями интерфейса. Но Пламмер от такого подхода отказался: он посчитал, что полагаться на точность GUI-таймера — идея так себе. Он даже сравнил это с попыткой доверить точный ритм метронома, который едет в кузове пикапа по разбитой дороге.

Вместо этого он заложил в Диспетчер задач другой принцип. Утилита запрашивает, сколько процессорного времени каждый процесс суммарно использовал с момента запуска (отдельно в пользовательском и системном режимах).

Затем из нового значения вычитается предыдущее, полученное во время прошлого обновления. Так определяется, сколько CPU-времени процесс съел за конкретный промежуток. А дальше это сравнивается с общим объёмом процессорного времени, которое было израсходовано всеми процессами за тот же период.

Звучит не очень просто, но именно такой метод, по словам Пламмера, даёт более точный результат, чем грубый расчёт по таймеру. Проблема в другом: современные процессоры стали намного сложнее, чем во времена, когда создавался классический Диспетчер задач.

Сегодня на работу CPU влияют динамическое изменение частоты, турбобуст, тепловые ограничения, глубокие режимы простоя и другие механизмы. Из-за этого один и тот же процент загрузки уже не всегда означает один и тот же объём реально выполненной работы. Пламмер привёл образное сравнение: современная загрузка CPU больше похожа не на пройденное расстояние, а на загруженность шоссе. Полупустая трасса с быстрыми спорткарами может перевезти больше, чем полностью забитая дорога со старыми грузовиками.

Именно поэтому Диспетчер задач иногда может показывать вроде бы нестрашные цифры, хотя компьютер при этом ощутимо тормозит (или наоборот). Дело не обязательно в ошибке инструмента. Просто сам показатель загрузки процессора уже давно перестал быть идеальным универсальным маркером производительности.

RSS: Новости на портале Anti-Malware.ru