В России может появиться программа защиты КИИ от нейросетевых кибератак

В России может появиться программа защиты КИИ от нейросетевых кибератак

В России может появиться программа защиты КИИ от нейросетевых кибератак

Ученые просят власти ввести обязательную маркировку контента, создаваемого нейросетями. Более того, необходима программа защиты критически важной инфраструктуры от кибератак с использованием таких систем, считают эксперты.

С предложением поставить на нейросети “водный знак” выступил Российский технологический университет (РТУ МИРЭА). Об этом говорится в письме ректора ВУЗа Станислава Куджа главе Минцифры Максуту Шадаеву.

“РТУ МИРЭА предлагает <...> закрепить обязательную маркировку контента, созданного с помощью технологии "нейросети", специальным графическим знаком в рамках федерального проекта "Искусственный интеллект" национальной программы "Цифровая экономика" и предусмотреть разработку соответствующего постановления правительства Российской Федерации”, — приводит выдержки из документа ТАСС.

Преподаватели технического университета также считают необходимым подготовить и утвердить программу защиты критически важной инфраструктуры от возможных кибератак с использованием нейросетей.

Беспокойство российских ученых вызывает и возможное использование утечек в связке с нейросетью.

Отдельным пунктом в приказ Минцифры "Об определении угроз безопасности персональных данных" они предлагают внести:

угрозы несанкционированного доступа к персональным данным людей без соответствующих полномочий в информационных системах и дальнейшего их использования с применением нейросетей.

Помимо этого, РТУ МИРЭА предлагает включить модуль "Противодействие неправомерному использованию нейросетей" в спецпроект Министерства цифрового развития, связи и массовых коммуникаций РФ "КиберЗОЖ" федерального проекта "Информационная безопасность".

Опасения ученых основываются на опросе экспертов, уточняется в письме ректора.

На первое место рейтинга опасностей нейросетей респонденты поставили возможный рост киберпреступности.

Повсеместное использование нейросетей даже в развлекательных целях несет опасность для сохранности персональных данных пользователей, отмечается в документе. Кроме того, совершенствование технологии нейросетей уже может серьезно сократить количество вакансий для людей в некоторых специальностях.

"Очевидно, что без введения дополнительных мер контроля за развитием искусственного интеллекта нейросети уже в ближайшие несколько лет смогут гораздо эффективнее, чем люди, взламывать защиту компьютерных программ, в том числе в критически важных для экономики сферах", — заявляют российские ученые. 

Минцифры письмо пока не комментировало.

Добавим, быстрый взлет нейросетей беспокоит не только отечественных исследователей, но и всё мировое сообщество. Открытое письмо об опасностях стремительного развития ИИ-технологий в марте подписали Илон Маск, Стив Возняк и ещё порядка 1300 учёных и предпринимателей со всего мира. На Anti-Malware.ru также вышел большой материал “Не шути с ChatGPT” о том, как ажиотажная нейросеть может изменить весь инфобез.

Мошенники играют в два звонка: сначала крадут код, потом спасают деньги

Российские кибермошенники всё чаще используют двухэтапные схемы, где главная технология — не хакерство, а давление на психику. В прошлом году россияне потеряли из-за кибермошенников более 55 млрд рублей, и около половины этой суммы похитили с помощью социальной инженерии. Схема выглядит как спектакль в двух действиях.

Сначала человеку звонят под безобидным предлогом: запись к врачу, замена домофонных ключей, проверка счётчиков.

По данным «Известий», в разговоре просят продиктовать код из СМС. Потом начинается второй акт: жертве снова звонят, но уже якобы из полиции или службы безопасности банка. Ей сообщают, что первый звонок был мошенническим, данные якобы под угрозой, а доказательство — тот самый код, который человек уже назвал.

Дальше всё идёт по классике: страх, срочность, безопасный счёт, перевод денег или передача наличных курьеру. Человек уверен, что его спасают, хотя на самом деле его просто ведут по сценарию.

В МВД предупреждают: если незнакомцы просят код из СМС, это уже красный флаг размером с баннер на фасаде. А если потом звонит сотрудник органов и требует срочно спасать деньги — трубку лучше положить сразу.

Эксперты подчёркивают: дело не в сложных технологиях. Мошенники бьют по тревоге, доверчивости и стрессу. Чем сильнее человека торопят и пугают, тем меньше он способен спокойно проверить факты. Особенно уязвимы люди в хроническом стрессе, тревоге или депрессивном состоянии, но возраст тут не главный фактор. Жертвами становятся и молодые: в Новороссийске 18-летний парень после легенды о взломе Госуслуг передал курьеру 2 млн рублей семейных сбережений.

Главная защита — не говорить коды, не переводить деньги по указке, не продолжать разговор с незнакомцами и самому звонить в банк по официальному номеру. А если родственник уже попался на первый звонок — нужно быстро заблокировать карты, ограничить переводы и полностью оборвать контакт с аферистами.

RSS: Новости на портале Anti-Malware.ru