В России начнут маркировать контент, сгенерированный нейросетью

В России начнут маркировать контент, сгенерированный нейросетью

Материалы, созданные нейросетью, российские сервисы будут автоматически маркировать четкими и заметными графическими знаками. По словам Антона Немкина, члена комитета Госдумы по информационной политике, это поможет усмирить бесконтрольное использование ИИ.

Начальник управления киберразведки и цифровой криминалистики Angara Security Никита Леокумович сообщил изданию «КоммерсантЪ», что стремительно развивающийся искусственный интеллект несёт в себе опасность.

Например, он может нарушать нормы морали и права человека, создавая вымышленные факты и генерируя дипфейки. Именно поэтому очень важно маркировать материалы, сгенерированные с помощью нейросети, включая текст, изображения и видео.

Огромное количество исходных кодов нейросети доступно любому пользователю. Возможно, из-за этого число мошенников, использующих ИИ, заметно выросло.

Сейчас есть возможность проверить, сгенерировано ли изображение с помощью искусственного интеллекта или создано человеком. Пользователю достаточно загрузить картинку на сервис (есть как платные, так и бесплатные), где алгоритм, основанный на ИИ, даст ответ.

По подсчётам компании «Диалог Регионы», около 12 миллионов дипфейков было обнаружено на просторах рунета в 2023 году. Исследователи предполагают, что к 2024 году это число вырастет до 15 млн.

Ярослав Шицле, руководитель направления «Разрешение IT & IP споров» юридической фирмы «Рустам Курмаев и партнеры» предполагает, что если сервисы не будут придерживаться требований и автоматически маркировать создаваемый ИИ контент, их будут блокировать или даже привлекать к ответственности.

О том, что вид графических символов на материалах может повлиять на рекламный рынок, рассказал управляющий партнер агентства PRT Edelman Глеб Сахрай. Пока неизвестно, насколько большой будет надпись, и как будут относиться люди к контенту, зная, что он сгенерирован нейросетью. Возможно, рекламные агентства снова прибегнут к помощи копирайтеров и дизайнеров.

Примечательно, что подобный закон в Евросоюзе уже действует с марта этого года. По сообщениям компании OpenAI, изображения, созданные ChatGPT, уже маркируются. Видео, сгенерированные встроенными алгоритмами в TikTok, помечаются платформой.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Новый пакет экспертизы PT ICS на Альфа платформе выявит атаки на АСУ ТП

Новый пакет экспертизы содержит правила для выявления внутренних нарушений и атак на компоненты систем промышленной автоматизации, разработанных на базе ПО «Альфа платформа» компании «Атомик Софт».

Это ПО используется в энергетике, транспортной промышленности, производстве удобрений, нефтегазовой отрасли и других сферах. Правила разработаны для системы MaxPatrol SIEM, которая входит в состав решения для защиты промышленности от киберугроз PT Industrial Cybersecurity Suite (PT ICS).

В 2023 году промышленные предприятия вошли в топ-6 самых атакуемых целей. В 95% случаев атаки были нацелены на конкретное предприятие, а каждая вторая приводила к нарушению деятельности компании.

«Испытания подтвердили, что пакет экспертизы полностью совместим со всеми компонентами “Альфа платформы“. Теперь продукты в составе PT ICS можно использовать для мониторинга событий безопасности в системах, реализованных на базе “Альфа платформы“», — прокомментировал Кирилл Силкин, технический директор «Атомик Софт».

Новый пакет экспертизы выявляет манипуляции с данными в SCADA-системах или попытки компрометации основных файлов системы управления со стороны как внешнего хакера, так и внутреннего нарушителя. Правила в пакете экспертизы нацелены на обнаружение таких техник злоумышленников, как:

  • Подмена информации на экране. Злоумышленники могут попытаться фальсифицировать данные, которые система передает операторам, например, путем изменения файлов проекта HMI. Это делается в расчете на то, что операторы не заметят проблем в работе оборудования или будут действовать, основываясь на некорректных сведениях.
  • Несанкционированная модификация параметров сервера АСУ ТП. Злоумышленники могут попытаться отредактировать конфигурационный файл Alpha.Server, который содержит параметры технологического процесса и обмена данными. Таким образом хакеры могут вмешаться в производственный процесс, что приведет к серьезным последствиям для предприятия.
  • Остановка работы сервиса. Хакеры могут попытаться прервать работу сервера данных Alpha.Server. Также это может привести к авариям, в том числе опасным для окружающей среды.
  • Маскировка вредоносной активности. Злоумышленники могут попытаться подменить сведения о местоположении, имени объекта или его метаданные, чтобы выдать свои действия за разрешенные. В случае «Альфа платформы» событие связано с подменой файлов другими, модифицированными злоумышленниками файлами или более старыми версиями, содержащими уязвимости или ошибки.

Пакет экспертизы уже доступен для установки через службу технической поддержки в последней версии системы MaxPatrol SIEM, которая входит в состав платформы PT ICS.

«Причиной нарушений действия промышленных объектов и аварий на них все чаще становятся кибератаки. Злоумышленники могут проникнуть в производственные системы снаружи, например из интернета или корпоративной сети. Серьезную угрозу здесь представляет и внутренний нарушитель, имеющий легальный доступ к критической инфраструктуре. Поэтому предприятиям крайне важно иметь в своем арсенале решения для обнаружения и предотвращения угроз кибербезопасности, такие как PT ICS. Они учитывают специфику индустриальных систем и наращивают экспертизу. Это позволяет наиболее эффективно бороться с киберугрозами в промышленных инфраструктурах», — отметил Андрей Кудеров, руководитель отдела по работе с технологическими партнерами Positive Technologies.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru