Эксперты по безопасности Bit9 не защитили собственную сеть

Эксперты по безопасности Bit9 не защитили собственную сеть

Американская компания Bit9, выпускающая решения для борьбы с вирусами и обеспечения сетевой безопасности, стала жертвой рассеянности своих же специалистов, которые забыли установить собственные продукты на машинах своей корпоративной сети. Незащищенная сеть была быстро взломана.

Ситуацию с компанией Bit9 трудно назвать другим словом, кроме как «конфуз»: специалистов по безопасности взломали, когда они забыли установить собственный продукт. В мире разработки защитных систем такое происходит не впервые. Стоит вспомнить хотя бы прошлогодний инцидент, когда антивирусы компании Sophos стали по ошибке считать вредоносными собственные файлы с сигнатурами. Тогда антивирусы полностью уничтожали свою базу данных, становясь бесполезными для заказчика, передает soft.mail.ru.

Как пояснил Патрик Морли (Patrick Morley) из компании Bit9: «Из-за недосмотра в текущей работе по обслуживанию внутренней сети компании значительная часть компьютеров осталась без установленных копий наших продуктов. В результате некие сторонние злоумышленники смогли временно получить несанкционированный доступ к одному из наших сертификатов для подписывания приложений, после чего с помощью него было подписано вредоносное ПО. На данный момент нет никаких признаков, что проблема возникла из-за дефектов в нашем продукте. Расследование также показывает, что наши собственные продукты не были скомпрометированы».

В защиту компании Bit9 можно сказать, что она разослала предупреждения своим клиентам перед тем, как обнародовать сведения об инциденте. В ином случае безопасность клиентов могла бы оказаться под угрозой. Кроме того, после выявления проблемы компания не стала скрывать неудобную ситуацию. Получилась своего рода работа на публику в стиле «вот что может случиться, если не использовать наш продукт».

Как бы то ни было, компанию Bit9 трудно заподозрить в преднамеренной ошибке, и вот почему: кроме проникновения в корпоративную сеть, ущерб выразился в потере важнейшего электронного сертификата. Злоумышленники даже успели выпустить собственный вирус, подписанный этим сертификатом – а это серьезная угроза не только для репутации, но и для безопасности в долгосрочном периоде. К счастью, по данным компании Bit9, всего трое из ее клиентов стали жертвой вредоносного ПО с похищенным сертификатом.

Если Bit9 не ошибается в своих оценках насчет всего трех пострадавших клиентов, то компании просто повезло. Шанс обойтись такими малыми жертвами очень невелик. Теперь компании Bit9 и Sophos служат наглядными примерами для других производителей защитных систем: как легко поставить под угрозу любой бизнес в этой сфере. В любом случае, борьба за безопасность – не точная наука, и в ней всегда есть место для человеческих ошибок.

В России хотят поставить на учет учебные материалы для ИИ-моделей

Минцифры РФ готовит законопроект, обязывающий разработчиков раскрывать сведения о наборах данных, используемых для обучения ИИ-моделей. Инициатива пока обсуждается в профильных ведомствах и сообществах игроков рынка.

Как выяснили «Ведомости», создатели подобных решений должны будут указывать наименование набора для тренинга, дату его создания, формат, объем и происхождение. В перспективе возможно создание специализированного реестра для ИИ.

Предложение выдвинуто в рамках работы правительства над регулированием сферы ИИ. Пока лишь известно, что разрабатываемый закон определит критерии российского происхождения нейросетей, закрепит право на авторство, обязанности и ответственность разработчиков, а также введет маркировку ИИ-контента.

Параллельно российские власти работают над мерами противодействия использованию ИИ в противоправных целях. Предложено даже признать применение ИИ отягчающим обстоятельством при совершении преступлений.

Предложение Минцифры о раскрытии источников обучающих данных для больших языковых моделей пока не принято на рассмотрение. Опрошенные новостным изданием эксперты сомневаются, что иностранные вендоры вроде OpenAI, Microsoft, Google, Perplexity будут соблюдать это требование.

По идее, новая инициатива должна повысить доверие к ИИ, возможность независимой оценки качества таких решений и дисциплины работы с данными. В то же время нововведение, скорее всего, потребует создания специального реестра, который будет заполняться формально из-за увеличения нагрузки на разработчиков, заинтересованных в скорейшем выводе ИИ-решений на рынок.

В то же время эксперты отметили, что в условиях дефицита качественных и юридически чистых наборов данных для обучения ИИ раскрытие их происхождения будет способствовать формированию нового коммерческого рынка.

Использование данных, взятых из открытых источников и без ведома владельцев создает риски утечки конфиденциальной информации и порождает конфликт интересов в случаях нарушения авторских прав. Подобные ситуации вынуждают создателей ИИ-моделей более внимательно относиться к подбору учебных данных и в случае необходимости покупать права на контент либо заключать договоры на использование.

В настоящее время закона, регулирующего сферу ИИ, в России нет; в законодательстве даже отсутствуют нужные определения. Освоение таких технологий пока осуществляется в соответствии с утвержденной указом Президента стратегией развития ИИ до 2030 года.

По этой причине попытки госрегулирования пока носят декларативный или рекомендательный характер. Так, в конце прошлого года было выдвинуто предложение о создании технических стандартов по ИИ и продвижение их на международном уровне.

Минцифры также определилось с требованиями к ПАК для ИИ и собирается создать киберполигон для проверки безопасности ИИ-систем, предназначенных для использования на критически важных объектах.

RSS: Новости на портале Anti-Malware.ru