В России может появиться программа защиты КИИ от нейросетевых кибератак

В России может появиться программа защиты КИИ от нейросетевых кибератак

В России может появиться программа защиты КИИ от нейросетевых кибератак

Ученые просят власти ввести обязательную маркировку контента, создаваемого нейросетями. Более того, необходима программа защиты критически важной инфраструктуры от кибератак с использованием таких систем, считают эксперты.

С предложением поставить на нейросети “водный знак” выступил Российский технологический университет (РТУ МИРЭА). Об этом говорится в письме ректора ВУЗа Станислава Куджа главе Минцифры Максуту Шадаеву.

“РТУ МИРЭА предлагает <...> закрепить обязательную маркировку контента, созданного с помощью технологии "нейросети", специальным графическим знаком в рамках федерального проекта "Искусственный интеллект" национальной программы "Цифровая экономика" и предусмотреть разработку соответствующего постановления правительства Российской Федерации”, — приводит выдержки из документа ТАСС.

Преподаватели технического университета также считают необходимым подготовить и утвердить программу защиты критически важной инфраструктуры от возможных кибератак с использованием нейросетей.

Беспокойство российских ученых вызывает и возможное использование утечек в связке с нейросетью.

Отдельным пунктом в приказ Минцифры "Об определении угроз безопасности персональных данных" они предлагают внести:

угрозы несанкционированного доступа к персональным данным людей без соответствующих полномочий в информационных системах и дальнейшего их использования с применением нейросетей.

Помимо этого, РТУ МИРЭА предлагает включить модуль "Противодействие неправомерному использованию нейросетей" в спецпроект Министерства цифрового развития, связи и массовых коммуникаций РФ "КиберЗОЖ" федерального проекта "Информационная безопасность".

Опасения ученых основываются на опросе экспертов, уточняется в письме ректора.

На первое место рейтинга опасностей нейросетей респонденты поставили возможный рост киберпреступности.

Повсеместное использование нейросетей даже в развлекательных целях несет опасность для сохранности персональных данных пользователей, отмечается в документе. Кроме того, совершенствование технологии нейросетей уже может серьезно сократить количество вакансий для людей в некоторых специальностях.

"Очевидно, что без введения дополнительных мер контроля за развитием искусственного интеллекта нейросети уже в ближайшие несколько лет смогут гораздо эффективнее, чем люди, взламывать защиту компьютерных программ, в том числе в критически важных для экономики сферах", — заявляют российские ученые. 

Минцифры письмо пока не комментировало.

Добавим, быстрый взлет нейросетей беспокоит не только отечественных исследователей, но и всё мировое сообщество. Открытое письмо об опасностях стремительного развития ИИ-технологий в марте подписали Илон Маск, Стив Возняк и ещё порядка 1300 учёных и предпринимателей со всего мира. На Anti-Malware.ru также вышел большой материал “Не шути с ChatGPT” о том, как ажиотажная нейросеть может изменить весь инфобез.

Windows 11 может тихо удалить драйвер видеокарты из-за Eco Mode

Windows 11 нашла новый способ напугать владельцев игровых ноутбуков: система может без предупреждения удалить драйвер дискретной видеокарты, если та слишком долго остаётся выключенной. Проблему обнаружил владелец Asus ROG Zephyrus G14 с мобильной GeForce RTX 5070 Ti.

Ноутбук несколько недель работал в Eco Mode — в этом режиме дискретная графика физически отключается от шины PCIe ради экономии энергии. Windows решила, что устройство исчезло насовсем, и запустила уборку.

Судя по журналу setupapi.dev.log, системный компонент pnpclean.dll удалил видеокарту после 15 дней отсутствия, а затем отправил вслед за ней ставший якобы ненужным пакет драйверов Nvidia. Обычно срок ожидания составляет 30 дней, но для отдельных устройств он может быть меньше.

После возвращения в Standard Mode видеокарта появилась в диспетчере устройств как Microsoft Basic Display Adapter с ошибкой 10. Приложение Nvidia при этом заявило о несовместимости драйвера. Лечится сюрприз его полной переустановкой.

Пока проблема подтверждена главным образом на ноутбуках Asus ROG, однако теоретически она может затронуть и другие модели, которые полностью отключают дискретную графику. В зоне риска не только Nvidia: один из владельцев старого G14 с AMD Radeon сообщил о похожем поведении.

Разработчик утилиты G-Helper уже добавил предупреждение. Самый простой способ профилактики — раз в пару недель включать Standard Mode, сбрасывая таймер. Автоматическую очистку также можно отключить через PowerShell от имени администратора:

Set-ItemProperty 'HKLM:\SOFTWARE\Microsoft\Windows\CurrentVersion\Explorer\VolumeCaches\Device Driver Packages' -Name Autorun -Value 0

Правда, тогда Windows перестанет автоматически убирать старые драйверы и неиспользуемые устройства. Официального подтверждения проблемы от Microsoft пока нет. Источники: пост пользователя Reddit, рекомендации G-Helper.

RSS: Новости на портале Anti-Malware.ru