В России начнут маркировать контент, сгенерированный нейросетью

В России начнут маркировать контент, сгенерированный нейросетью

В России начнут маркировать контент, сгенерированный нейросетью

Материалы, созданные нейросетью, российские сервисы будут автоматически маркировать четкими и заметными графическими знаками. По словам Антона Немкина, члена комитета Госдумы по информационной политике, это поможет усмирить бесконтрольное использование ИИ.

Начальник управления киберразведки и цифровой криминалистики Angara Security Никита Леокумович сообщил изданию «КоммерсантЪ», что стремительно развивающийся искусственный интеллект несёт в себе опасность.

Например, он может нарушать нормы морали и права человека, создавая вымышленные факты и генерируя дипфейки. Именно поэтому очень важно маркировать материалы, сгенерированные с помощью нейросети, включая текст, изображения и видео.

Огромное количество исходных кодов нейросети доступно любому пользователю. Возможно, из-за этого число мошенников, использующих ИИ, заметно выросло.

Сейчас есть возможность проверить, сгенерировано ли изображение с помощью искусственного интеллекта или создано человеком. Пользователю достаточно загрузить картинку на сервис (есть как платные, так и бесплатные), где алгоритм, основанный на ИИ, даст ответ.

По подсчётам компании «Диалог Регионы», около 12 миллионов дипфейков было обнаружено на просторах рунета в 2023 году. Исследователи предполагают, что к 2024 году это число вырастет до 15 млн.

Ярослав Шицле, руководитель направления «Разрешение IT & IP споров» юридической фирмы «Рустам Курмаев и партнеры» предполагает, что если сервисы не будут придерживаться требований и автоматически маркировать создаваемый ИИ контент, их будут блокировать или даже привлекать к ответственности.

О том, что вид графических символов на материалах может повлиять на рекламный рынок, рассказал управляющий партнер агентства PRT Edelman Глеб Сахрай. Пока неизвестно, насколько большой будет надпись, и как будут относиться люди к контенту, зная, что он сгенерирован нейросетью. Возможно, рекламные агентства снова прибегнут к помощи копирайтеров и дизайнеров.

Примечательно, что подобный закон в Евросоюзе уже действует с марта этого года. По сообщениям компании OpenAI, изображения, созданные ChatGPT, уже маркируются. Видео, сгенерированные встроенными алгоритмами в TikTok, помечаются платформой.

Статью УК РФ о незаконном обороте ПДн обкатали уже более 900 раз

За десять месяцев 2025 года МВД России зафиксировало 923 случая правоприменения статьи 272.1 УК. Как оказалось, она позволяет трактовать как преступление даже мелкие утечки персональных данных и ошибки сотрудников компаний.

Статья 272.1 УК РФ (незаконные сбор, хранение, использование, передача компьютерной информации, содержащей персональные данные) вступила в силу 9 декабря 2024 года. Новый состав был добавлен в целях борьбы с ботами и сервисами, специально созданными для пробива.

Благодаря криминализации подобных деяний российским властям удалось добиться закрытия телеграм-сервиса «Глаз Бога» и аналогичного бота Userbox, а также ареста его предполагаемого владельца.

К сожалению, подобные успехи пока единичны: как выяснил РБК, такие ресурсы зачастую создают зарубежные анонимы. Вместе с тем абстрактные формулировки новой статьи УК позволяют правоохранительным органам широко трактовать нормы и привлекать к уголовной ответственности даже за действия, ранее считавшиеся административным правонарушением или мелким проступком.

Так, в минувшем году по ст. 272.1 УК неоднократно выдвигались обвинения против недобросовестных сотрудников салонов связи за слив персональных данных абонентов. По этой же статье квалифицировались действия жителя Башкортостана, организовавшего массовую активацию сим-карт для сдачи в аренду; газовщиков, копировавших клиентские базы на продажу; судебного пристава, передавшую третьим лицам информацию о должниках и взыскателях.

Опрошенные РБК эксперты отметили схожие проблемы с практикой применения другой, более почтенной статьи УК РФ — 274.1 (неправомерное воздействие на критическую информационную инфраструктуру). Ее формулировки тоже предоставляют слишком широкие возможности для трактовки деяний подследственных.

Эта статья чаще всего применяется к инсайдерам — рядовым сотрудникам банков, телеком-компаний, медучреждений, почты. Мотивом таких правонарушений обычно является корысть, желание кому-то помочь либо стремление выполнить план, притом любыми средствами.

«Практика показывает, что личная флешка, воткнутая в рабочий компьютер на объекте КИИ, или передача пароля коллеге — это уже не просто нарушение трудовой дисциплины, а состав преступления, — заявил журналистам управляющий RTM Group Евгений Царев. — Бизнесу пора переходить к политике нулевого доверия к инсайдерам и жесткой юридической фиксации правил информационной безопасности».

 По данным RTM Group, в период с 2018 года по 2025-й российские суды суммарно рассмотрели 325 уголовных дел в рамках ст. 274.1 (по состоянию на 31 октября). Почти в половине случаев квалифицирующим признаком состава являлось использование служебного положения.

Аналитики ожидают, что в ближайшие три-четыре года число приговоров по статьям 274.1 и 272.1 УК РФ возрастет в десять раз — в основном за счет применения ст. 272.1.

RSS: Новости на портале Anti-Malware.ru