В России разработали бесплатный детектор для поиска дипфейков

В России разработали бесплатный детектор для поиска дипфейков

В России разработали бесплатный детектор для поиска дипфейков

Компания «Архитех ИИ» разработала инструмент KodikScan для проверки цифрового контента на признаки генерации или обработки с помощью искусственного интеллекта. Сервис будет доступен бесплатно и рассчитан на пользователей, журналистов, блогеров и редакции, которым нужно быстро понять, насколько материал похож на фейк.

KodikScan умеет анализировать изображения, видео, аудио и текст. Система ищет скрытые признаки ИИ-генерации: визуальные паттерны, структуру шума, динамику кадров в видео, особенности голоса в аудио и статистические закономерности в тексте.

После этого инструмент оценивает вероятность того, что контент был создан или изменён нейросетью.

По словам разработчика ИИ-среды Kodik Рафаэля Гильмурахманова, сервис задумывался как инструмент для цифровой гигиены. Он отметил, что фейковый контент всё чаще используют в мошеннических схемах: например, злоумышленники могут присылать «кружочки» или видеосообщения якобы от знакомых с просьбой перейти по ссылке или перевести деньги.

Для обычных пользователей такая проверка может стать способом не повестись на подделку. Для СМИ и авторов пабликов — дополнительным фильтром перед публикацией спорных материалов. Особенно это актуально на фоне обсуждения инициатив по превентивной блокировке резонансных дипфейков до проверки их достоверности.

Разработчики также планируют предоставить KodikScan журналистам российских СМИ для тестирования в рабочих задачах. Воспользоваться сервисом может любой желающий на сайте scan.kodik.ru: достаточно загрузить файл и получить оценку вероятности применения ИИ.

По данным «Архитех ИИ», на тестах инструмент определял признаки генерации искусственным интеллектом с точностью 98,03%. При этом, как и с любыми подобными системами, результат стоит воспринимать не как окончательный приговор, а как подсказку: если сервис видит признаки ИИ, материал точно стоит проверить внимательнее.

Минцифры предложило взять осуждённых педофилов на цифровой учёт

В России могут создать единый реестр людей, совершивших преступления против половой неприкосновенности несовершеннолетних. Инициатива вошла в проект доктрины Минцифры по борьбе с ИТ-преступлениями. Отбыть срок и раствориться в другом регионе станет сложнее.

Реестр предлагают использовать для контроля за бывшими заключёнными, в том числе при помощи технических средств, выяснили «Известия».

Он должен помочь отслеживать соблюдение запретов на работу с детьми, посещение школ, лагерей и других детских учреждений, а также прохождение назначенного судом лечения.

Пока это не готовое решение, а направление для обсуждения. Минцифры не раскрыло, какие сведения попадут в базу, кто получит к ней доступ и будет ли она публичной. Для запуска системы потребуется отдельно менять законодательство. Сам проект доктрины ещё проходит общественное обсуждение.

Идея реестра гуляет по кабинетам не первый год. Одни депутаты предлагали открыть его для всех, другие настаивали на закрытом формате. Зампред комитета Госдумы по безопасности Анатолий Выборный считает, что доступ следует дать только правоохранителям, медикам, уголовно-исполнительным инспекциям и кадровым службам образовательных и социальных учреждений.

Сторонники инициативы указывают на дыру в межведомственном обмене данными. Сейчас у полиции, медиков и других ведомств свои базы, которые не всегда успевают поговорить друг с другом. В результате осуждённый за преступление против ребёнка может переехать и снова оказаться рядом с детьми, иногда даже в роли тренера или педагога.

У противников тоже есть весомые аргументы. В реестр могут попасть ошибочно осуждённые, а утечка данных способна обернуться травлей не только для них, но и для невиновных родственников. Кроме того, одна большая база не исправит формальный надзор и привычку некоторых учреждений заминать скандалы.

Поэтому главный вопрос не в том, нужен ли ещё один реестр. Гораздо важнее, кто, как и для чего будет нажимать в нём кнопки.

RSS: Новости на портале Anti-Malware.ru