ЛК собрала экспертов для обсуждения вопросов защиты АСУ ТП

ЛК собрала экспертов для обсуждения вопросов защиты АСУ ТП

В начале декабря 2014 года «Лаборатория Касперского» провела конференцию, посвященную вопросам информационной безопасности критически важных инфраструктур. В обсуждении актуальных проблем киберзащиты промышленных сетей приняли участие эксперты компаний, занимающихся разработкой защитных систем.

А также интеграторы, представители регулирующих органов и предприятий, работающих в таких важных для экономики и жизнедеятельности отраслях, как топливно-энергетический комплекс и машиностроение.

Открыл конференцию Евгений Касперский, генеральный директор «Лаборатории Касперского». В своем выступлении он рассказал о том, как устроено современное киберпространство, представил эволюцию киберугроз, а также обозначил основные проблемы, стоящие как перед производителями защитных решений, так и перед предприятиями, работающими в критически важных отраслях.

Эксперты «Лаборатории Касперского», а также представители компаний, занимающихся разработкой и интеграцией специализированных защитных решений, подробно рассказали о сценариях атак на индустриальные сети и описали принципы, на которых должна базироваться безопасная система для управления промышленной инфраструктурой. Так, антивирусный эксперт «Лаборатории Касперского» Сергей Минеев отметил возросшее количество атак, направленных на промышленные объекты. Одним из примеров подобных атак является кампания кибершпионажа Crouching Yeti, в результате которой пострадало более 2800 предприятий, в том числе связанных с энергетикой и машиностроением. Эксперт особенно подчеркнул, что современные АСУ ТП крайне уязвимы, поскольку не имеют полноценной специализированной защиты, предотвращающей несанкционированный доступ к инструментам контроля. В результате, перехватить управление критическими процессами может посторонний человек, не знакомый с физической природой этих процессов, что чрезвычайно опасно.

Важную позицию государственного регулятора на конференции озвучил начальник управления ФСТЭК РФ Виталий Лютиков. Он отметил, что государство проявляет большую заинтересованность в обеспечении кибербезопасности индустриальных объектов и готово рассмотреть для этого наиболее эффективные решения и практики.

Необходимость обсуждения вопросов защиты систем управления технологическими процессами отметили также операторы критически важных объектов, в частности, «Росатом» и «Мосэнерго», а также производители решений для АСУ ТП: Siemens, Schneider Electric, Rockwell, Emerson, Advantech и другие. Представители этих организаций поделились своим опытом решения задач, проявив большой интерес к новым разработкам и новым методам обеспечения защиты АСУ ТП. «Лаборатория Касперского» продемонстрировала ряд технологий для защиты индустриальных сетей, серверов, рабочих станций, PLC-контроллеров от различных киберугроз сети. При минимальном влиянии на работу защищаемых систем эти технологии дают возможность надежно обеспечить их безопасность, позволяя осуществлять антивирусную защиту, контроль доступа к промышленной сети, контроль целостности систем управления, контроль целостности технологического процесса. Кроме того, с помощью этих технологий можно вовремя обнаружить как случайное заражение, так и целенаправленную атаку. В основе решений «Лаборатории Касперского» лежит разработанная компанией специальная безопасная ОС, предназначенная для использования в условиях, требующих максимальных гарантий безопасности.

Немалое внимание в ходе конференции также было уделено созданию возможностей для взаимодействия всех ее участников, обмена опытом и знаниями и практическому применению навыков. Этому, в частности, способствовала специально разработанная специалистами «Лаборатории Касперского» бизнес-игра, в рамках которой участники мероприятия обеспечивали надежную киберзащиту «виртуальной» промышленной системы в условиях смоделированных направленных атак. На практике игроки смогли оценить последствия кибератак и поупражнялись в принятии адекватных мер для защиты предприятия.

«Конференцию, посвященную вопросам защиты критически важных объектов, мы проводим второй год подряд. Как показывает опыт, тема действительно является крайне актуальной и интересует многих специалистов информационной безопасности и технологов, работающих на предприятиях. Разработка адекватных и действенных подходов к киберзащите промышленных систем управления зависит от совместных усилий представителей многих организаций: государственных регулирующих органов, операторов критических объектов, вендоров оборудования и ПО, проектировщиков АСУТП, интеграторов, а также компаний, обеспечивающих информационную безопасность. Только совместными усилиями можно найти наиболее действенные методы противостояния киберугрозам в этой не простой области. Именно такое сообщество мы и собрали на своей конференции. Как показала конференция, все участники активно взаимодействовали между собой, это позволяет надеяться на то, что правильное решение будет найдено быстро. Именно это и является главной целью конференции», – говорит Андрей Духвалов, руководитель управления перспективных технологий «Лаборатории Касперского».

Новый вектор ProAttack позволяет незаметно внедрять бэкдоры в LLM

Промпт-инжиниринг давно стал нормой при работе с большими языковыми моделями. Но, как выясняется, вместе с удобством он приносит и новую поверхность атаки. Исследователи представили вектор под названием ProAttack, который позволяет внедрять бэкдор в модель через промпты, причём делать это почти незаметно.

В тестах атака показывала эффективность, близкую к 100%, причём без классических красных флагов вроде странных токенов или подмены меток.

В обычных атаках на NLP-модели злоумышленники добавляют в данные подозрительные слова или фразы и меняют метки. Такие вещи уже научились отслеживать. 

ProAttack идёт другим путём. Вместо явных «триггеров» он использует разные промпты для обучающих данных:

  • для части данных (целевая категория) — вредоносный промпт;
  • для остальных — обычный, чистый.

 

При этом сами тексты выглядят нормально, а метки остаются корректными. В итоге модель учится ассоциировать конкретный промпт с нужным злоумышленнику результатом.

А дальше всё просто: на этапе использования достаточно подать вход с этим промптом, и бэкдор срабатывает.

Особенно опасно, что атака остаётся эффективной даже при небольшом количестве данных. В ряде случаев хватало буквально нескольких (около шести) «отравленных» примеров, чтобы внедрить бэкдор.

Метод протестировали на разных задачах, включая даже медицинские сценарии (например, суммаризацию радиологических отчётов). И там он тоже показал высокую эффективность, практически не ухудшая качество работы модели.

Исследователи проверили ProAttack против популярных методов защиты — ONION, SCPD, back-translation и fine-pruning. Ни один из них не смог полностью остановить атаку.

В качестве возможного решения предлагается использовать LoRA (parameter-efficient fine-tuning). Идея в том, что такие методы ограничивают количество параметров, которые модель может менять при дообучении. А значит, ей сложнее запомнить связь между триггером и целевым результатом.

RSS: Новости на портале Anti-Malware.ru