Российские ученые создали инструмент выявления дипфейк-видео

Российские ученые создали инструмент выявления дипфейк-видео

Российские ученые создали инструмент выявления дипфейк-видео

В Донском государственном техническом университете (ДГТУ, Ростов-на-Дону) создали программу для распознавания видеоконтента, сгенерированного с помощью ИИ. Софт весом 100 Кбайт работает на Windows 7 и выше и выявляет дипфейки с приемлемой точностью.

Программа написана на Python 3.11 в среде разработки IDE Microsoft Visual Studio на архитектуре Inception. Для распознавания лиц была применена модель BlazeFace нейронных сетей ResNeXt и XceptionsNet, которые обучили на Google Cloud Platform.

Инструмент прост в использовании: достаточно скачать подозрительное видео и запустить проверку через командную строку. Программа найдет все кадры с лицами и проанализирует каждый на наличие признаков подделки. Так, дипфейк могут выдать натяжение губ при разговоре, расхождение речи и мимики, а также различные технические нюансы, вплоть до неестественно расположенных пикселей.

Извлеченные из оригинала характеристики обрабатываются генеративно-состязательной сетью (Generative Adversarial Network, GAN). Для вывода предусмотрены три варианта:

  • наложенный на видео вердикт Fake/No Fake;
  • текстовое сообщение с указанием вероятности подделки (в процентах);
  • отображаемые в командной строке покадровые оценки с указанием степени вероятности фейка.

«Стопроцентный результат не гарантирован: у любой программы бывают неточности, — подчеркивают разработчики. — Это связано и с особенностями мимики человека на видео, и с характеристиками самого видео: иногда такие ролики специально делают с плохим качеством, чтобы труднее было определить подделку».

В настоящее время создатели антифейковой программы завершают оформление свидетельства о госрегистрации продукта, правообладателем которого является ДГТУ. По мнению разработчиков, их инструмент будет востребован в сфере цифровой безопасности, в том числе у создателей бесконтактных систем контроля доступа и разблокировки гаджетов.

«Программа по выявлению фейкового видеоконтента станет одним из модулей будущего программного комплекса по противодействию деструктивной информации, — делится дальнейшими планами научный руководитель проекта, профессор Лариса Черкесова. — Эта система позволит охватить все виды мультимедийного контента в интернете: тексты — как печатные, так и рукописные, графические изображения, включая фото- и видеофайлы, а также аудиофайлы».

Из зарубежных разработок такого плана наиболее интересен, пожалуй, FakeCatcher разработки Intel — серверный детектор, способный распознавать дипфейк-видео в реальном времени с точностью до 96%. От большинства аналогов его отличает подход: он ищет признаки, свойственные человеку, а не отличия, выдающие подлог.

Эксперты допустили новую зачистку российского софта в App Store

Apple удалила из App Store основные приложения холдинга VK, а эксперты уже предупреждают: на этом зачистка российского софта может не закончиться. Основания, которыми объясняются ограничения, подходят далеко не только для сервисов одной компании.

25 июня из магазина исчезли «ВКонтакте», «Одноклассники», «Дзен», VK Видео, VK Музыка, VK Знакомства и Mail.ru.

Ранее та же участь постигла мессенджер МАКС. Его удаление связывали с претензиями к безопасности, а блокировку остальных приложений — с санкциями.

Опрошенные «Коммерсантом» участники рынка считают ситуацию опасным прецедентом. Многие крупные российские платформы работают по одним и тем же законам: взаимодействуют с государственными органами и в предусмотренных случаях передают им данные.

Если этого достаточно для санкций, очередь из кандидатов на вылет из App Store может получиться длинной.

Не слишком убедительным эксперты называют и аргумент об обязательной предустановке МАКС на смартфоны. В России действует целый перечень программ для предустановки, поэтому при желании ту же логику можно распространить на сервисы других разработчиков.

В зоне риска оказываются не только мессенджеры и электронная почта, но и любые крупные цифровые платформы с широкой аудиторией и сложной инфраструктурой. Иными словами, билет из App Store потенциально может получить почти любой заметный российский сервис.

Пока речь идёт лишь об оценках участников рынка: Apple не объявляла о новой массовой волне удалений. Но сигнал получился вполне прозрачным. Сегодня из магазина исчезли VK и МАКС, а завтра кнопка «Недоступно в вашем регионе» может встретить пользователей совсем другого приложения.

RSS: Новости на портале Anti-Malware.ru