Эксперты по безопасности Bit9 не защитили собственную сеть

Эксперты по безопасности Bit9 не защитили собственную сеть

Американская компания Bit9, выпускающая решения для борьбы с вирусами и обеспечения сетевой безопасности, стала жертвой рассеянности своих же специалистов, которые забыли установить собственные продукты на машинах своей корпоративной сети. Незащищенная сеть была быстро взломана.

Ситуацию с компанией Bit9 трудно назвать другим словом, кроме как «конфуз»: специалистов по безопасности взломали, когда они забыли установить собственный продукт. В мире разработки защитных систем такое происходит не впервые. Стоит вспомнить хотя бы прошлогодний инцидент, когда антивирусы компании Sophos стали по ошибке считать вредоносными собственные файлы с сигнатурами. Тогда антивирусы полностью уничтожали свою базу данных, становясь бесполезными для заказчика, передает soft.mail.ru.

Как пояснил Патрик Морли (Patrick Morley) из компании Bit9: «Из-за недосмотра в текущей работе по обслуживанию внутренней сети компании значительная часть компьютеров осталась без установленных копий наших продуктов. В результате некие сторонние злоумышленники смогли временно получить несанкционированный доступ к одному из наших сертификатов для подписывания приложений, после чего с помощью него было подписано вредоносное ПО. На данный момент нет никаких признаков, что проблема возникла из-за дефектов в нашем продукте. Расследование также показывает, что наши собственные продукты не были скомпрометированы».

В защиту компании Bit9 можно сказать, что она разослала предупреждения своим клиентам перед тем, как обнародовать сведения об инциденте. В ином случае безопасность клиентов могла бы оказаться под угрозой. Кроме того, после выявления проблемы компания не стала скрывать неудобную ситуацию. Получилась своего рода работа на публику в стиле «вот что может случиться, если не использовать наш продукт».

Как бы то ни было, компанию Bit9 трудно заподозрить в преднамеренной ошибке, и вот почему: кроме проникновения в корпоративную сеть, ущерб выразился в потере важнейшего электронного сертификата. Злоумышленники даже успели выпустить собственный вирус, подписанный этим сертификатом – а это серьезная угроза не только для репутации, но и для безопасности в долгосрочном периоде. К счастью, по данным компании Bit9, всего трое из ее клиентов стали жертвой вредоносного ПО с похищенным сертификатом.

Если Bit9 не ошибается в своих оценках насчет всего трех пострадавших клиентов, то компании просто повезло. Шанс обойтись такими малыми жертвами очень невелик. Теперь компании Bit9 и Sophos служат наглядными примерами для других производителей защитных систем: как легко поставить под угрозу любой бизнес в этой сфере. В любом случае, борьба за безопасность – не точная наука, и в ней всегда есть место для человеческих ошибок.

40% бизнеса считают риски генеративного ИИ критическими

Российский бизнес всё активнее доверяет искусственному интеллекту написание и анализ программного кода. Однако вместе с ростом популярности генеративного ИИ растет и тревога: почти все компании признают, что такие инструменты могут создавать серьезные риски для информационной безопасности.

К такому выводу пришли специалисты УЦСБ и группы компаний «Солар», опросившие более сотни организаций из сфер финансов, промышленности, телекома, энергетики, торговли, медицины и госсектора.

Согласно исследованию, более 80% компаний уже разрешают использовать генеративный ИИ при разработке программного обеспечения. Чаще всего его применяют для ускорения написания кода, анализа программ и поиска уязвимостей.

Но есть нюанс. Сразу 95% участников исследования считают, что генеративный ИИ несет существенные риски безопасности, а 40% называют их критическими.

При этом только половина компаний разрешает использование ИИ в контролируемом режиме — например, через сервисы, развернутые внутри собственного ИТ-контура. Еще тревожнее выглядит другая цифра: около 32% организаций фактически не контролируют использование ИИ разработчиками и не предъявляют требований по информационной безопасности.

На этом фоне бизнес всё активнее смотрит в сторону закрытых корпоративных языковых моделей. Почти 87% опрошенных положительно оценивают внедрение собственных LLM для анализа безопасности, поиска уязвимостей и автоматического исправления кода. Каждый четвертый считает такие решения необходимыми уже сейчас.

Эксперты объясняют осторожность компаний просто. Публичные ИИ-сервисы могут стать источником утечек данных, а их способность находить уязвимости далека от идеала. По оценкам специалистов, открытые LLM-модели пропускают от 40 до 50% проблем безопасности в программном коде.

Кроме того, генеративный ИИ зачастую анализирует код как набор шаблонов, а не понимает его логику целиком. В результате появляются ложные срабатывания, а сложные уязвимости могут остаться незамеченными.

Неудивительно, что компании готовы инвестировать не только в собственные ИИ-модели, но и в процессы MLSecOps, аудит безопасности, red teaming и пентесты ИИ-систем.

Получается парадоксальная ситуация: бизнес уже не хочет отказываться от искусственного интеллекта в разработке, но и полностью доверять ему пока тоже не готов. И чем глубже ИИ проникает в процессы создания ПО, тем острее становится вопрос — кто будет проверять самого ИИ.

RSS: Новости на портале Anti-Malware.ru