В России начнут маркировать контент, сгенерированный нейросетью

В России начнут маркировать контент, сгенерированный нейросетью

В России начнут маркировать контент, сгенерированный нейросетью

Материалы, созданные нейросетью, российские сервисы будут автоматически маркировать четкими и заметными графическими знаками. По словам Антона Немкина, члена комитета Госдумы по информационной политике, это поможет усмирить бесконтрольное использование ИИ.

Начальник управления киберразведки и цифровой криминалистики Angara Security Никита Леокумович сообщил изданию «КоммерсантЪ», что стремительно развивающийся искусственный интеллект несёт в себе опасность.

Например, он может нарушать нормы морали и права человека, создавая вымышленные факты и генерируя дипфейки. Именно поэтому очень важно маркировать материалы, сгенерированные с помощью нейросети, включая текст, изображения и видео.

Огромное количество исходных кодов нейросети доступно любому пользователю. Возможно, из-за этого число мошенников, использующих ИИ, заметно выросло.

Сейчас есть возможность проверить, сгенерировано ли изображение с помощью искусственного интеллекта или создано человеком. Пользователю достаточно загрузить картинку на сервис (есть как платные, так и бесплатные), где алгоритм, основанный на ИИ, даст ответ.

По подсчётам компании «Диалог Регионы», около 12 миллионов дипфейков было обнаружено на просторах рунета в 2023 году. Исследователи предполагают, что к 2024 году это число вырастет до 15 млн.

Ярослав Шицле, руководитель направления «Разрешение IT & IP споров» юридической фирмы «Рустам Курмаев и партнеры» предполагает, что если сервисы не будут придерживаться требований и автоматически маркировать создаваемый ИИ контент, их будут блокировать или даже привлекать к ответственности.

О том, что вид графических символов на материалах может повлиять на рекламный рынок, рассказал управляющий партнер агентства PRT Edelman Глеб Сахрай. Пока неизвестно, насколько большой будет надпись, и как будут относиться люди к контенту, зная, что он сгенерирован нейросетью. Возможно, рекламные агентства снова прибегнут к помощи копирайтеров и дизайнеров.

Примечательно, что подобный закон в Евросоюзе уже действует с марта этого года. По сообщениям компании OpenAI, изображения, созданные ChatGPT, уже маркируются. Видео, сгенерированные встроенными алгоритмами в TikTok, помечаются платформой.

Антифрод за 3 млрд: операторы оценили маркировку иностранных звонков

Российским операторам связи предстоят новые расходы. Согласно расчётам к проекту Минцифры, внедрение обязательной маркировки международных звонков может обойтись отрасли примерно в 3 млрд рублей ежегодно. Новые правила планируется запустить с 1 марта 2027 года.

После этого входящие вызовы с иностранных номеров должны будут сопровождаться специальной пометкой.

А если это позволяет техническая инфраструктура оператора, абоненту также будут показывать страну, из которой поступает звонок.

Инициатива, как пишет «КоммерсантЪ», входит во второй пакет антифрод-мер, подписанный президентом 26 июня. Предполагается, что дополнительная маркировка поможет пользователям быстрее распознавать потенциально подозрительные звонки и осложнит работу телефонных мошенников.

Впрочем, сами операторы смотрят на нововведение менее оптимистично. Сейчас они уже маркируют вызовы от юридических лиц, однако считают, что распространение этой системы на международные звонки потребует куда более серьёзных затрат.

По словам представителей компаний, предыдущий этап проекта уже потребовал значительных инвестиций в оборудование и модернизацию сетевой инфраструктуры.

В Минцифры, напротив, уверены, что расходы окажутся не столь значительными. В ведомстве считают, что большая часть необходимой функциональности уже внедрена у операторов, а окончательные суммы можно будет оценить после получения данных от участников рынка.

Таким образом, спор пока идет не вокруг самой идеи маркировки, а вокруг её стоимости. Если расчеты операторов подтвердятся, внедрение новой антифрод-системы станет одним из самых дорогостоящих проектов в сфере телефонной безопасности последних лет.

RSS: Новости на портале Anti-Malware.ru