В России может появиться программа защиты КИИ от нейросетевых кибератак

В России может появиться программа защиты КИИ от нейросетевых кибератак

Ученые просят власти ввести обязательную маркировку контента, создаваемого нейросетями. Более того, необходима программа защиты критически важной инфраструктуры от кибератак с использованием таких систем, считают эксперты.

С предложением поставить на нейросети “водный знак” выступил Российский технологический университет (РТУ МИРЭА). Об этом говорится в письме ректора ВУЗа Станислава Куджа главе Минцифры Максуту Шадаеву.

“РТУ МИРЭА предлагает <...> закрепить обязательную маркировку контента, созданного с помощью технологии "нейросети", специальным графическим знаком в рамках федерального проекта "Искусственный интеллект" национальной программы "Цифровая экономика" и предусмотреть разработку соответствующего постановления правительства Российской Федерации”, — приводит выдержки из документа ТАСС.

Преподаватели технического университета также считают необходимым подготовить и утвердить программу защиты критически важной инфраструктуры от возможных кибератак с использованием нейросетей.

Беспокойство российских ученых вызывает и возможное использование утечек в связке с нейросетью.

Отдельным пунктом в приказ Минцифры "Об определении угроз безопасности персональных данных" они предлагают внести:

угрозы несанкционированного доступа к персональным данным людей без соответствующих полномочий в информационных системах и дальнейшего их использования с применением нейросетей.

Помимо этого, РТУ МИРЭА предлагает включить модуль "Противодействие неправомерному использованию нейросетей" в спецпроект Министерства цифрового развития, связи и массовых коммуникаций РФ "КиберЗОЖ" федерального проекта "Информационная безопасность".

Опасения ученых основываются на опросе экспертов, уточняется в письме ректора.

На первое место рейтинга опасностей нейросетей респонденты поставили возможный рост киберпреступности.

Повсеместное использование нейросетей даже в развлекательных целях несет опасность для сохранности персональных данных пользователей, отмечается в документе. Кроме того, совершенствование технологии нейросетей уже может серьезно сократить количество вакансий для людей в некоторых специальностях.

"Очевидно, что без введения дополнительных мер контроля за развитием искусственного интеллекта нейросети уже в ближайшие несколько лет смогут гораздо эффективнее, чем люди, взламывать защиту компьютерных программ, в том числе в критически важных для экономики сферах", — заявляют российские ученые. 

Минцифры письмо пока не комментировало.

Добавим, быстрый взлет нейросетей беспокоит не только отечественных исследователей, но и всё мировое сообщество. Открытое письмо об опасностях стремительного развития ИИ-технологий в марте подписали Илон Маск, Стив Возняк и ещё порядка 1300 учёных и предпринимателей со всего мира. На Anti-Malware.ru также вышел большой материал “Не шути с ChatGPT” о том, как ажиотажная нейросеть может изменить весь инфобез.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Новый пакет экспертизы PT ICS на Альфа платформе выявит атаки на АСУ ТП

Новый пакет экспертизы содержит правила для выявления внутренних нарушений и атак на компоненты систем промышленной автоматизации, разработанных на базе ПО «Альфа платформа» компании «Атомик Софт».

Это ПО используется в энергетике, транспортной промышленности, производстве удобрений, нефтегазовой отрасли и других сферах. Правила разработаны для системы MaxPatrol SIEM, которая входит в состав решения для защиты промышленности от киберугроз PT Industrial Cybersecurity Suite (PT ICS).

В 2023 году промышленные предприятия вошли в топ-6 самых атакуемых целей. В 95% случаев атаки были нацелены на конкретное предприятие, а каждая вторая приводила к нарушению деятельности компании.

«Испытания подтвердили, что пакет экспертизы полностью совместим со всеми компонентами “Альфа платформы“. Теперь продукты в составе PT ICS можно использовать для мониторинга событий безопасности в системах, реализованных на базе “Альфа платформы“», — прокомментировал Кирилл Силкин, технический директор «Атомик Софт».

Новый пакет экспертизы выявляет манипуляции с данными в SCADA-системах или попытки компрометации основных файлов системы управления со стороны как внешнего хакера, так и внутреннего нарушителя. Правила в пакете экспертизы нацелены на обнаружение таких техник злоумышленников, как:

  • Подмена информации на экране. Злоумышленники могут попытаться фальсифицировать данные, которые система передает операторам, например, путем изменения файлов проекта HMI. Это делается в расчете на то, что операторы не заметят проблем в работе оборудования или будут действовать, основываясь на некорректных сведениях.
  • Несанкционированная модификация параметров сервера АСУ ТП. Злоумышленники могут попытаться отредактировать конфигурационный файл Alpha.Server, который содержит параметры технологического процесса и обмена данными. Таким образом хакеры могут вмешаться в производственный процесс, что приведет к серьезным последствиям для предприятия.
  • Остановка работы сервиса. Хакеры могут попытаться прервать работу сервера данных Alpha.Server. Также это может привести к авариям, в том числе опасным для окружающей среды.
  • Маскировка вредоносной активности. Злоумышленники могут попытаться подменить сведения о местоположении, имени объекта или его метаданные, чтобы выдать свои действия за разрешенные. В случае «Альфа платформы» событие связано с подменой файлов другими, модифицированными злоумышленниками файлами или более старыми версиями, содержащими уязвимости или ошибки.

Пакет экспертизы уже доступен для установки через службу технической поддержки в последней версии системы MaxPatrol SIEM, которая входит в состав платформы PT ICS.

«Причиной нарушений действия промышленных объектов и аварий на них все чаще становятся кибератаки. Злоумышленники могут проникнуть в производственные системы снаружи, например из интернета или корпоративной сети. Серьезную угрозу здесь представляет и внутренний нарушитель, имеющий легальный доступ к критической инфраструктуре. Поэтому предприятиям крайне важно иметь в своем арсенале решения для обнаружения и предотвращения угроз кибербезопасности, такие как PT ICS. Они учитывают специфику индустриальных систем и наращивают экспертизу. Это позволяет наиболее эффективно бороться с киберугрозами в промышленных инфраструктурах», — отметил Андрей Кудеров, руководитель отдела по работе с технологическими партнерами Positive Technologies.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru