Российские ученые создали инструмент выявления дипфейк-видео

Российские ученые создали инструмент выявления дипфейк-видео

В Донском государственном техническом университете (ДГТУ, Ростов-на-Дону) создали программу для распознавания видеоконтента, сгенерированного с помощью ИИ. Софт весом 100 Кбайт работает на Windows 7 и выше и выявляет дипфейки с приемлемой точностью.

Программа написана на Python 3.11 в среде разработки IDE Microsoft Visual Studio на архитектуре Inception. Для распознавания лиц была применена модель BlazeFace нейронных сетей ResNeXt и XceptionsNet, которые обучили на Google Cloud Platform.

Инструмент прост в использовании: достаточно скачать подозрительное видео и запустить проверку через командную строку. Программа найдет все кадры с лицами и проанализирует каждый на наличие признаков подделки. Так, дипфейк могут выдать натяжение губ при разговоре, расхождение речи и мимики, а также различные технические нюансы, вплоть до неестественно расположенных пикселей.

Извлеченные из оригинала характеристики обрабатываются генеративно-состязательной сетью (Generative Adversarial Network, GAN). Для вывода предусмотрены три варианта:

  • наложенный на видео вердикт Fake/No Fake;
  • текстовое сообщение с указанием вероятности подделки (в процентах);
  • отображаемые в командной строке покадровые оценки с указанием степени вероятности фейка.

«Стопроцентный результат не гарантирован: у любой программы бывают неточности, — подчеркивают разработчики. — Это связано и с особенностями мимики человека на видео, и с характеристиками самого видео: иногда такие ролики специально делают с плохим качеством, чтобы труднее было определить подделку».

В настоящее время создатели антифейковой программы завершают оформление свидетельства о госрегистрации продукта, правообладателем которого является ДГТУ. По мнению разработчиков, их инструмент будет востребован в сфере цифровой безопасности, в том числе у создателей бесконтактных систем контроля доступа и разблокировки гаджетов.

«Программа по выявлению фейкового видеоконтента станет одним из модулей будущего программного комплекса по противодействию деструктивной информации, — делится дальнейшими планами научный руководитель проекта, профессор Лариса Черкесова. — Эта система позволит охватить все виды мультимедийного контента в интернете: тексты — как печатные, так и рукописные, графические изображения, включая фото- и видеофайлы, а также аудиофайлы».

Из зарубежных разработок такого плана наиболее интересен, пожалуй, FakeCatcher разработки Intel — серверный детектор, способный распознавать дипфейк-видео в реальном времени с точностью до 96%. От большинства аналогов его отличает подход: он ищет признаки, свойственные человеку, а не отличия, выдающие подлог.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

В ходе фиджитал-турнира Игры Будущего было предотвращено 200 кибератак

Система кибербезопасности «Игр будущего», созданная на базе технологий Positive Technologies, позволила предотвратить около 200 инцидентов ИБ и полностью исключить недопустимые события — те, что могли бы сорвать глобальное мероприятие.

Международный турнир в формате функционально-цифрового спорта впервые провели в этом году в Казани; в нем приняли участие 260 команд и более 2 тыс. участников из разных стран. О вызовах и успехах защиты ИТ-инфраструктуры «Игр» специалисты рассказали на только что завершившемся киберфестивале Positive Hack Days.

Обеспечением кибербезопасности важного мероприятия занималась команда PT Expert Security Center (PT ESC) во взаимодействии с ведущими игроками российского рынка ИБ. Координация совместных усилий была возложена на Минцифры РФ и НКЦКИ.

На подготовительном этапе были определены недопустимые события (остановка турнира, прерывание трансляции, подмена транслируемого контента, кража / утечка персональных данных участников турнира и гостей) и меры по защите от них. После этого пришлось решать вопрос о создании нужной системы и ее развертывании в сжатые сроки — за несколько дней.

Итоговый центр противодействия киберугрозам (ЦПК) был способен обеспечить мониторинг событий безопасности и оповещений об атаках, проактивный поиск угроз и оперативное реагирование на инциденты в распределенной инфраструктуре (включала более 10 площадок).

Обработку оповещений, поступающих с 2 тыс. активов, выполняла MaxPatrol SIEM. В ходе «Игр» было сгенерировано 6 тыс. алертов; поток событий безопасности в среднем составил 10 тыс. в секунду.

С помощью SIEM-системы удалось выявить и пресечь множество попыток заражения, в том числе в стиле WannaCry:

  • попытки эксплойта уязвимости CVE-2017-0144 (EternalBlue);
  • коммуникации с бэкдорами DoublePulsar;
  • сканирование для выявления открытых портов 445/SMB;
  • активность вредоносов WannaCry и Petya (найдено 39 узлов с признаками заражений).

Злоумышленники также проводили разведку, запускали сканы в поиске уязвимостей и создавали фишинговые ловушки. Обнаружить попытки взлома, применения RAT (TeamViewer, AnyDesk, RMS, Ammyy Admin, Radmin) и запрещенных VPN-клиентов помогала PT NAD; продукт также работал по заранее составленным белым спискам IP-адресов, позволяя блокировать DDoS-атаки.

Для оперативного устранения угроз на конечных устройствах, контроля безопасности буткемпа (150 узлов), защиты удаленных подключений по VPN использовались возможности MaxPatrol EDR. Выявление и устранение уязвимостей осуществлялись с помощью MaxPatrol VM.

В состав ЦПК были также включены PT Sandbox (помогла обнаружить криптомайнеры на 18 узлах) и PT Application Firewall (ежедневно фиксировал не менее 1 тыс. веб-атак, а во время праздничных церемоний — свыше 10 тысяч).

 

Параллельно с ЦПК был запущен пилотный MaxPatrol O2, который автоматически собирал и анализировал срабатывания средств защиты, проверял события и выделял заслуживающие внимания, экономя время специалистам.

«Перед метапродуктом стояла масштабная задача: помочь защитить сложную геораспределенную инфраструктуру «Игр Будущего», которая охватывала почти 1300 узлов и динамично изменялась в процессе мероприятия, — отметила Анастасия Важенина, руководитель практики развития метапродуктов PT. — MaxPatrol O2 успешно справился со своей задачей по защите такого крупного спортивного мероприятия и доказал, что его можно с уверенностью использовать в различных организациях и отраслях».

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru