В России может появиться программа защиты КИИ от нейросетевых кибератак

В России может появиться программа защиты КИИ от нейросетевых кибератак

В России может появиться программа защиты КИИ от нейросетевых кибератак

Ученые просят власти ввести обязательную маркировку контента, создаваемого нейросетями. Более того, необходима программа защиты критически важной инфраструктуры от кибератак с использованием таких систем, считают эксперты.

С предложением поставить на нейросети “водный знак” выступил Российский технологический университет (РТУ МИРЭА). Об этом говорится в письме ректора ВУЗа Станислава Куджа главе Минцифры Максуту Шадаеву.

“РТУ МИРЭА предлагает <...> закрепить обязательную маркировку контента, созданного с помощью технологии "нейросети", специальным графическим знаком в рамках федерального проекта "Искусственный интеллект" национальной программы "Цифровая экономика" и предусмотреть разработку соответствующего постановления правительства Российской Федерации”, — приводит выдержки из документа ТАСС.

Преподаватели технического университета также считают необходимым подготовить и утвердить программу защиты критически важной инфраструктуры от возможных кибератак с использованием нейросетей.

Беспокойство российских ученых вызывает и возможное использование утечек в связке с нейросетью.

Отдельным пунктом в приказ Минцифры "Об определении угроз безопасности персональных данных" они предлагают внести:

угрозы несанкционированного доступа к персональным данным людей без соответствующих полномочий в информационных системах и дальнейшего их использования с применением нейросетей.

Помимо этого, РТУ МИРЭА предлагает включить модуль "Противодействие неправомерному использованию нейросетей" в спецпроект Министерства цифрового развития, связи и массовых коммуникаций РФ "КиберЗОЖ" федерального проекта "Информационная безопасность".

Опасения ученых основываются на опросе экспертов, уточняется в письме ректора.

На первое место рейтинга опасностей нейросетей респонденты поставили возможный рост киберпреступности.

Повсеместное использование нейросетей даже в развлекательных целях несет опасность для сохранности персональных данных пользователей, отмечается в документе. Кроме того, совершенствование технологии нейросетей уже может серьезно сократить количество вакансий для людей в некоторых специальностях.

"Очевидно, что без введения дополнительных мер контроля за развитием искусственного интеллекта нейросети уже в ближайшие несколько лет смогут гораздо эффективнее, чем люди, взламывать защиту компьютерных программ, в том числе в критически важных для экономики сферах", — заявляют российские ученые. 

Минцифры письмо пока не комментировало.

Добавим, быстрый взлет нейросетей беспокоит не только отечественных исследователей, но и всё мировое сообщество. Открытое письмо об опасностях стремительного развития ИИ-технологий в марте подписали Илон Маск, Стив Возняк и ещё порядка 1300 учёных и предпринимателей со всего мира. На Anti-Malware.ru также вышел большой материал “Не шути с ChatGPT” о том, как ажиотажная нейросеть может изменить весь инфобез.

Наталья Касперская извинилась перед Роскомнадзором за пост о сбое в рунете

Президент ГК InfoWatch, глава правления АРПП «Отечественный софт» и соосновательница «Лаборатории Касперского» Наталья Касперская извинилась перед Роскомнадзором за свой пост о причинах масштабного сбоя, который 3 апреля затронул банковские сервисы и СБП.

Напомним, в тот день пользователи массово жаловались на проблемы в работе Сбербанка, Т-Банка, ВТБ, Ozon Банка и сервиса доставки «Самокат».

На фоне этих неполадок Касперская написала в своём телеграм-канале, что, по её версии, причиной мог стать Роскомнадзор, который якобы слишком активно взялся за борьбу с VPN.

В своём первом комментарии она ссылалась на мнение знакомых технических специалистов и утверждала, что блокировка VPN без побочных эффектов для остального интернета практически невозможна.

По словам Касперской, VPN-тоннели глубоко встроены в сетевой трафик и используют протоколы, которые во многом пересекаются с теми, что применяют банки и другие легальные сервисы. Именно поэтому попытка ограничить такие механизмы могла привести к массовым сбоям.

Тогда же она довольно резко описала ситуацию, сравнив происходящее с «вражеским налётом», и даже посоветовала россиянам снять наличные и сохранять нужные страницы сайтов офлайн. Кроме того, она допустила, что официально в случившемся могут обвинить «внешних врагов».

Однако позже Касперская опубликовала новый пост, но уже с извинениями. Глава правления АРПП «Отечественный софт» сообщила, что Андрей Липов в личном разговоре объяснил ей: реальной причиной сбоя стали внутренние неполадки в системах Сбербанка.

Поскольку Сбербанк является системообразующим игроком и на его инфраструктуру завязаны другие банки, проблемы внутри этой системы сказались и на работе ряда финансовых сервисов, включая СБП.

В новом сообщении Касперская назвала Роскомнадзор «уважаемым ведомством» и признала, что сделала поспешные выводы. При этом полностью тему она не закрыла и заодно раскритиковала профильные органы за слабую публичную коммуникацию.

По её мнению, если бы Минцифры, Роскомнадзор или сам Сбербанк быстрее и подробнее объяснили, что именно произошло, пространство для слухов и догадок было бы куда меньше. Она отдельно отметила, что в тот же день министр цифрового развития Максут Шадаев говорил о блокировке VPN, и многие вполне логично связали это заявление со сбоем в банковской сфере.

Касперская также подчеркнула, что Роскомнадзор в этой ситуации выступает скорее исполнителем и не должен делать самостоятельные политические заявления. А вот более активного диалога с ИТ-сообществом, по её мнению, как раз не хватает со стороны Минцифры и правительства.

RSS: Новости на портале Anti-Malware.ru