Так виноват ли Китай?

Так виноват ли Китай?

Эксперты и исследовательские группы самого разного масштаба по-прежнему пытаются найти ответ на вопрос, уже довольно давно терзающий высшие чины американских правительственных и военных ведомств. Все они так и не могут окончательно определить: читали ли китайские спецслужбы секретную информацию, передававшуюся упомянутыми ведомствами через Интернет?



Некоторое время назад в докладе сенатской комиссии по вопросам экономического взаимодействия и безопасности отношений США и Китая были преданы широкой огласке сведения о том, что в апреле текущего года на относительно непродолжительное время весь Интернет-трафик, идущий как на домены .gov и .mil (а именно в этих доменах расположены многие ресурсы государственных и оборонных ведомств), так и от них, "таинственным образом" оказался полностью замкнут на китайские маршрутизационные мощности. Все данные - письма по электронной почте, запросы на открытие веб-страниц и т.п. - в течение восемнадцати минут проходили только через серверы китайского национального поставщика услуг Интернета China Telecom. США были чрезвычайно обеспокоены этим фактом, хотя напрямую обвинять власти Китая в произошедшем не стали.


Доклад был опубликован в среду, 17 ноября. С этого дня разнообразные специалисты непрерывно гадают, был ли инцидент подстроен, или же являет собой лишь случайность; в конце недели свое авторитетное мнение высказала компания Renesys, занимающаяся отслеживанием сетевой активности в Интернете. По мнению аналитиков этой компании, в данном случае мы все же не имеем дело с акцией, направленной именно против американских государственных деятелей и военных: представитель Renesys Джеймс Кови заявил, что происшествие затронуло множество сетей в 170 странах мира, и вследствие этого через серверы China Telecom прошли данные правительственных и оборонных ведомств не только США, но и ряда иных государств.


"Сущность инцидента предполагает скорее случайную ошибку, нежели преднамеренную атаку против кого-то конкретного", - сказал г-н Кови. - "Впрочем, следует оговориться, что, не располагая всем объемом необходимых данных, однозначную и безусловную гарантию давать все же не представляется возможным".


По мнению главного технолога Renesys, причиной происшествия стало то, что одна из подсетей China Telecom ошибочно оказалась ассоциирована с более чем пятьюдесятью тысячами различных блоков IP-адресов. В результате серверы государственного провайдера Китая были автоматически выбраны маршрутизаторами как оптимальные для передачи трафика между этими адресами, и довольно большой объем данных со всего Интернета проследовал именно через эти площадки. Такие ошибки иногда случаются в Сети, но обычно их жертвами становятся более мелкие провайдеры, мощности которых вскоре оказываются погребены под напором неожиданно возросшего трафика; администраторы начинают искать причину, и проблема быстро исправляется. Но China Telecom - это одиннадцатый по величине поставщик услуг Интернета в мире, и его серверы оказались способны выдержать наплыв трафика без заметных нарушений производительности.


"Многие уверены, что подобное перенаправление данных - это идеальные условия для архивирования трафика посредством атаки типа "man-in-the-middle" (т.е. "внедренный посредник"). Но в настоящее время нет никаких свидетельств того, что подобное сохранение и последующее изучение переданных сведений действительно имело место", - заключил г-н Кови.


PC World

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

25% компаний уже столкнулись с атаками на ИИ: выводы с Swordfish PRO

Про искусственный интеллект сегодня не говорит только ленивый. Но стоит начать обсуждать безопасность — и тут же начинается путаница: какие атаки действительно грозят ML-моделям, как на них реагировать и что вообще такое MLCops? Мы съездили на Swordfish PRO DevSecOps Conf и узнали главное.

Собрали самые популярные стереотипы о применении ИИ в разработке — и попросили экспертов разнести их в пух и прах. Сперва — гостей конференции, потом — тех, кто уже работает с ИИ-секьюрити по полной.

«Атаки реальны — и происходят прямо сейчас»

Генеральный директор Swordfish Security Александр Пинаев сразу расставил точки над «i»:

«Эти атаки абсолютно реальны. Системы с большими языковыми моделями, выставленные в публичный доступ, уже сегодня атакуются самыми разными способами».

Управляющий партнёр ГК Swordfish Security Юрий Сергеев привёл свежую статистику:

«По нашему исследованию с Ассоциацией Финтех, четверть компаний в финсекторе уже столкнулась с атаками на ИИ-системы. Тренд лавинообразный — и это только начало».

 

Директор по развитию технологий ИИ в ГК Swordfish Security Юрий Шабалин добавил важную деталь: многие атаки остаются незамеченными.

«25% — это только те, кто понял, что их атаковали. На деле объектом атаки становится практически любая большая модель. Потому что инструмент взлома здесь — язык. Перефразируешь запрос чуть иначе — и модель выдаст то, что раньше “не могла”».

 

Когда атакует сам контент

Антон Башарин, управляющий директор AppSec Solutions, рассказал, как в компании обучали сканер OPSEC GENI:

«Мы тренировали его на доступных больших генеративных моделях. Отравление данных, подмена, дрифт — все эти атаки работают. ML-модели тоже подвержены эффекту “окна Овертона”: шаг за шагом нормализуешь отклонение — и поведение меняется».

Так что же делать бизнесу?

Мы задали экспертам один и тот же вопрос: какой главный совет они бы дали компаниям, которые уже сейчас хотят защититься в новой ИИ-реальности?

Вот что прозвучало:

Юрий Шабалин:

«Подходите к ИИ-нововведениям осознанно. Это не только возможности, но и риски».

Александр Пинаев:

«Начните с фреймворков. Наш, OWASP — любой. Посмотрите на классификацию угроз, на реальные примеры атак. Первый шаг — признать, что проблема существует. А дальше — просто разобраться, как именно вас могут атаковать».

Смотрите полный репортаж на любой удобной вам площадке: YouTube, VK, RuTube.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru