Google проводит киберучения по защите своей внутренней инфраструктуры

Google проводит киберучения по защите своей внутренней инфраструктуры

Google проводит киберучения по защите своей внутренней инфраструктуры

19 июля в Google стартовал пилотный проект, направленный на оценку живучести ее бизнес-процессов в условиях массированной кибератаки. Одним из элементов этих учений является полное отключение участников (корпоративных пользователей) от интернета.

Для участия в киберучениях были отобраны 2500 сотрудников. Затем в руководстве компании посчитали, что такой эксперимент с жестким отбором участников может привести к сбоям и решили предоставить возможность отобранным участникам отказаться от участия в киберучениях, если они считают такой эксперимент опасным. Параллельно другие сотрудники компании получили приглашение добровольно занять их место и принять участие в проекте.

Официальной целью киберучений в Google называют отработку процедур сохранения живучести компании в условиях, когда в бизнес-процессы активно внедряются инструменты искусственного интеллекта. Эти нововведения чреваты серьезными последствиями для бизнеса в случае их выхода из строя или компрометации путем кибератак. В Google хотят отработать процедуры восстановления элементов инфраструктуры и программной экосистемы при выходе части из них из строя.

План киберучений предусматривает отключение для участников фокус-группы доступа в интернет на их настольных компьютерах. В рабочем состоянии им будут оставлены только внутрикорпоративные веб-инструменты и доступ к экосистемным сайтам Google (Google Drive и Google Gmail). Если для каких-либо участников фокус-группы окажется, что им все-таки жизненно необходим постоянный доступ к интернету для работы, то ограничения будут сняты, сообщается в служебных материалах Google.

Сотрудникам будет также блокирован доступ с правами администратора. Из-за этого они не смогут выполнять административные команды и производить, например, установку программ.

Блокировка доступа в интернет в сценарии киберучений выбрана неслучайно. Речь идет не о проверке живучести компании, если вдруг она потеряет доступ к Сети. В Google рассматривают временную (частичную или полную) блокировку интернета для сотрудников как действенную меру плана защиты. Он позволит локализовать действия злоумышленников и предотвратить угрозы удаленного запуска ими произвольного кода или кражи данных.

Как сообщается во внутренних документах Google, необходимость «экстренного» проведения киберучений внутри компании связана с тем, что «злоумышленники могут получить доступ к пользовательским данным и коду инфраструктуры Google в случае успешно проведенной кибератаки. Такой инцидент может иметь серьезные последствия и подорвать доверие к компании».

Являются ли нынешние киберучения в Google плановыми или были вызваны другими причинами, не сообщается.

Однако известно, что на прошлой неделе внутренняя инфраструктура Microsoft подверглась кибератаке со стороны китайской разведки (группа Storm-0588). По имеющимся данным, им удалось получить доступ к регистрационным данным пользователей для системы Outlook Web Access. В результате кибератаки могли быть украдены регистрационные данные для доступа к почтовым ящикам для двух десятков пользователей, представляющих правительственные учреждения США и Западной Европы, включая Госдепартамент. Поскольку начиная с прошлого года Google официально является исполнителем по ряду госконтрактов, этот инцидент в Microsoft мог подтолкнуть руководство Google к проведению внеочередных киберучений.

Можно добавить, что в России соразмерные по значимости последствия могут иметь инциденты с такими крупнейшими компаниями, как Сбербанк, Яндекс, ВТБ, Газпром и др. Насколько высока их живучесть, насколько хорошо отработаны их механизмы противодействия для отражения подобного рода кибератак — неизвестно, потому что эти компании не сообщают публично, какие киберучения и в каком объеме они проводят.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Red Teaming в применении к ИИ требует переосмысления

Учения Generative Red Team, проведенные в рамках DEF CON 32, показали, что подобный способ оценки защищенности ИИ не дает адекватной картины. Эксперты предлагают создать систему, подобную CVE и учитывающую целевое назначение объектов анализа.

В мероприятии приняли участие (PDF) около 500 добровольцев с разным опытом аудита больших языковых моделей (БЯМ, LLM). В 48 случаях за выявленные недочеты были выплачены премии — суммарно $7850.

Тем не менее организаторы пришли к выводу, что метод Red Teaming в применении к ИИ необходимо усовершенствовать. Большой проблемой оказалось фрагментарность документации по LLM, которые к тому же разнятся по предусмотренному применению.

Без учета назначения ИИ-модели и сообразных встроенных ограничений результаты таких проверок на прочность могут ввести в заблуждение. Более того, отсутствие единых критериев оценки может привести к противоречивым заключениям.

Бурный рост и развитие ИИ-технологий создали новые риски, однако ни у кого пока нет четкого представления о том, как тестировать такие продукты и выстраивать их защиту.

Обеспечение безопасности LLM, по словам экспертов, — нескончаемый процесс. Умные помощники могут ошибаться, им свойственны галлюцинации, предвзятость (из-за неправильного обучения), уязвимость к инъекции стимула. Подобные системы бесперспективно защищать от взлома, однако его можно сделать более затратным, а последствия — краткосрочными.

Организаторы Generative Red Team призывают ИИ- и ИБ-сообщества совместными усилиями решить настоятельные проблемы. В противном случае техническая революция приведет к появлению ИИ-инструментов, на которые невозможно положиться; живой пример тому — скороспелка DeepSeek.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru