В России может появиться программа защиты КИИ от нейросетевых кибератак

В России может появиться программа защиты КИИ от нейросетевых кибератак

В России может появиться программа защиты КИИ от нейросетевых кибератак

Ученые просят власти ввести обязательную маркировку контента, создаваемого нейросетями. Более того, необходима программа защиты критически важной инфраструктуры от кибератак с использованием таких систем, считают эксперты.

С предложением поставить на нейросети “водный знак” выступил Российский технологический университет (РТУ МИРЭА). Об этом говорится в письме ректора ВУЗа Станислава Куджа главе Минцифры Максуту Шадаеву.

“РТУ МИРЭА предлагает <...> закрепить обязательную маркировку контента, созданного с помощью технологии "нейросети", специальным графическим знаком в рамках федерального проекта "Искусственный интеллект" национальной программы "Цифровая экономика" и предусмотреть разработку соответствующего постановления правительства Российской Федерации”, — приводит выдержки из документа ТАСС.

Преподаватели технического университета также считают необходимым подготовить и утвердить программу защиты критически важной инфраструктуры от возможных кибератак с использованием нейросетей.

Беспокойство российских ученых вызывает и возможное использование утечек в связке с нейросетью.

Отдельным пунктом в приказ Минцифры "Об определении угроз безопасности персональных данных" они предлагают внести:

угрозы несанкционированного доступа к персональным данным людей без соответствующих полномочий в информационных системах и дальнейшего их использования с применением нейросетей.

Помимо этого, РТУ МИРЭА предлагает включить модуль "Противодействие неправомерному использованию нейросетей" в спецпроект Министерства цифрового развития, связи и массовых коммуникаций РФ "КиберЗОЖ" федерального проекта "Информационная безопасность".

Опасения ученых основываются на опросе экспертов, уточняется в письме ректора.

На первое место рейтинга опасностей нейросетей респонденты поставили возможный рост киберпреступности.

Повсеместное использование нейросетей даже в развлекательных целях несет опасность для сохранности персональных данных пользователей, отмечается в документе. Кроме того, совершенствование технологии нейросетей уже может серьезно сократить количество вакансий для людей в некоторых специальностях.

"Очевидно, что без введения дополнительных мер контроля за развитием искусственного интеллекта нейросети уже в ближайшие несколько лет смогут гораздо эффективнее, чем люди, взламывать защиту компьютерных программ, в том числе в критически важных для экономики сферах", — заявляют российские ученые. 

Минцифры письмо пока не комментировало.

Добавим, быстрый взлет нейросетей беспокоит не только отечественных исследователей, но и всё мировое сообщество. Открытое письмо об опасностях стремительного развития ИИ-технологий в марте подписали Илон Маск, Стив Возняк и ещё порядка 1300 учёных и предпринимателей со всего мира. На Anti-Malware.ru также вышел большой материал “Не шути с ChatGPT” о том, как ажиотажная нейросеть может изменить весь инфобез.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Эксперт НАФИ назвала самые опасные схемы, связанные с поиском работы

Эксперт проекта Научно-исследовательского финансового института (НИФИ) Минфина России «Моифинансы.рф» Ольга Дайнеко назвала самыми опасными мошенническими схемами при поиске работы вовлечение в транзит денежных средств и доставку неизвестных посылок.

Как предупредила эксперт в комментарии для «Газеты.ru», подобные «подработки» могут привести к уголовной ответственности.

По её словам, наибольшую опасность представляет деятельность «курьера по особым поручениям», когда соискателю предлагают передавать деньги или посылки, строго следуя инструкциям. Если такая схема связана с незаконной деятельностью, риск оказаться соучастником преступления крайне высок.

Также, по оценке эксперта, потенциальных «дропов» мошенники часто вербуют не напрямую, а через вакансии администраторов групп в соцсетях и мессенджерах. В обязанности таких «администраторов» входит якобы ведение учета средств, сбор пожертвований или призов.

«В подобных случаях человек использует свои банковские карты для приёма и обналичивания поступлений. Это, пожалуй, один из самых опасных видов “подработки” — он грозит обвинением в соучастии в преступлении и уголовным преследованием», — предупреждает Ольга Дайнеко.

По её словам, всё ещё распространены схемы с «вложениями», оплатой обучения или использованием личных банковских карт. Также участились случаи, когда соискателям предлагают заранее оплатить налог на доходы (НДФЛ) — после перевода средств «работодатели» исчезают. Кроме того, мошенники требуют выполнения объёмных заданий под видом тестовых.

Не теряет актуальности и схема с фиктивными покупками на маркетплейсах. Похожим образом действуют и под видом сервисов бронирования или продажи билетов.

В последнее время мошенников всё чаще интересует не только получение денег, но и сбор персональных данных. Это проявляется в требованиях предоставить копии документов, информацию о семье и имущественном положении уже на этапе заполнения анкеты.

С декабря 2024 года начала распространяться схема с фальшивым трудоустройством в пункты выдачи заказов: соискателей вынуждали устанавливать вредоносную программу. Позже также была выявлена схема кредитного мошенничества — займы оформлялись на имена подставных лиц, часто непрофессиональных актёров.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru