В России может появиться программа защиты КИИ от нейросетевых кибератак

В России может появиться программа защиты КИИ от нейросетевых кибератак

В России может появиться программа защиты КИИ от нейросетевых кибератак

Ученые просят власти ввести обязательную маркировку контента, создаваемого нейросетями. Более того, необходима программа защиты критически важной инфраструктуры от кибератак с использованием таких систем, считают эксперты.

С предложением поставить на нейросети “водный знак” выступил Российский технологический университет (РТУ МИРЭА). Об этом говорится в письме ректора ВУЗа Станислава Куджа главе Минцифры Максуту Шадаеву.

“РТУ МИРЭА предлагает <...> закрепить обязательную маркировку контента, созданного с помощью технологии "нейросети", специальным графическим знаком в рамках федерального проекта "Искусственный интеллект" национальной программы "Цифровая экономика" и предусмотреть разработку соответствующего постановления правительства Российской Федерации”, — приводит выдержки из документа ТАСС.

Преподаватели технического университета также считают необходимым подготовить и утвердить программу защиты критически важной инфраструктуры от возможных кибератак с использованием нейросетей.

Беспокойство российских ученых вызывает и возможное использование утечек в связке с нейросетью.

Отдельным пунктом в приказ Минцифры "Об определении угроз безопасности персональных данных" они предлагают внести:

угрозы несанкционированного доступа к персональным данным людей без соответствующих полномочий в информационных системах и дальнейшего их использования с применением нейросетей.

Помимо этого, РТУ МИРЭА предлагает включить модуль "Противодействие неправомерному использованию нейросетей" в спецпроект Министерства цифрового развития, связи и массовых коммуникаций РФ "КиберЗОЖ" федерального проекта "Информационная безопасность".

Опасения ученых основываются на опросе экспертов, уточняется в письме ректора.

На первое место рейтинга опасностей нейросетей респонденты поставили возможный рост киберпреступности.

Повсеместное использование нейросетей даже в развлекательных целях несет опасность для сохранности персональных данных пользователей, отмечается в документе. Кроме того, совершенствование технологии нейросетей уже может серьезно сократить количество вакансий для людей в некоторых специальностях.

"Очевидно, что без введения дополнительных мер контроля за развитием искусственного интеллекта нейросети уже в ближайшие несколько лет смогут гораздо эффективнее, чем люди, взламывать защиту компьютерных программ, в том числе в критически важных для экономики сферах", — заявляют российские ученые. 

Минцифры письмо пока не комментировало.

Добавим, быстрый взлет нейросетей беспокоит не только отечественных исследователей, но и всё мировое сообщество. Открытое письмо об опасностях стремительного развития ИИ-технологий в марте подписали Илон Маск, Стив Возняк и ещё порядка 1300 учёных и предпринимателей со всего мира. На Anti-Malware.ru также вышел большой материал “Не шути с ChatGPT” о том, как ажиотажная нейросеть может изменить весь инфобез.

Финал «Очень странных дел» используют для кражи данных

Выход финального сезона сериала «Очень странные дела» стал не только событием для фанатов, но и удобным поводом для мошенников. Эксперты «Лаборатории Касперского» предупреждают: злоумышленники активно используют популярность шоу, чтобы выманивать у пользователей личные данные и деньги.

Схемы выглядят знакомо, но поданы под актуальный инфоповод. Пользователей заманивают на сайты, где якобы можно бесплатно посмотреть новые эпизоды или скачать их раньше официального релиза.

На таких страницах предлагают «быстро и бесплатно» зарегистрироваться для доступа к контенту — с вводом ФИО, даты рождения, номера телефона и даже платёжных данных. Разумеется, никакого сериала в итоге человек не получает, а вот риск утечки данных и финансовых потерь становится вполне реальным.

В других вариантах сценария посетителей перенаправляют с фейковых страниц на вредоносные ресурсы или предлагают пройти «проверку», замаскированную под CAPTCHA. По легенде, это нужно для защиты от ботов. На практике же в ходе такой «верификации» жертву могут попросить ввести логин и пароль от почты или других аккаунтов. Иногда мошенники идут дальше и предлагают оформить «бесплатный пробный период», запросив данные банковской карты.

Как отмечают в «Лаборатории Касперского», злоумышленники редко изобретают что-то принципиально новое — они просто подстраивают старые приёмы под текущие интересы аудитории. Популярный сериал становится приманкой, а цель остаётся прежней: кража персональных данных и денег. При этом поддельные сайты могут выглядеть очень убедительно и почти не отличаться от настоящих стриминговых сервисов.

Эксперты советуют сохранять холодную голову: смотреть сериалы только на официальных платформах, не переходить по сомнительным ссылкам и не вводить конфиденциальные данные на сайтах, которые вызывают хоть малейшие сомнения. В противном случае «очень странные дела» могут быстро перейти из экрана в реальную жизнь — и с куда менее приятным финалом.

RSS: Новости на портале Anti-Malware.ru