Роскомнадзор заказал сервис по ловле дипфейков

Роскомнадзор заказал сервис по ловле дипфейков

Роскомнадзор заказал сервис по ловле дипфейков

Роскомнадзор заинтересовался разработкой НИУ ИТМО в области распознавания лжи по видеозаписи. В ведомстве допускают, что систему могут использовать для выявления “дипфейков”. Решение пока только на английском языке.

О сервисе Expert на основе искусственного интеллекта сегодня пишет “Ъ”. Система позволит проверять видеозаписи выступлений на предмет лжи и манипуляций.

По словам одного из собеседников “Ъ”, прототип был представлен Роскомнадзору на заседании экспертного совета ГРЧЦ по ИИ в июле:

“Присутствовал глава Роскомнадзора Андрей Липов, которого решение заинтересовало. Он попросил как можно скорее передать его ведомству на тестирование”.

Сервис позволяет анализировать видеозаписи на предмет лжи и представляет интерес для оперативного выявления “дипфейков” (deepfake), уточнил глава Научно-технического центра ФГУП ГРЧЦ Александр Федотов:

“Если ИТМО сможет представить устойчиво работающую технологию в виде готового продукта, ГРЧЦ рассмотрит возможность ее применения”.

Expert анализирует видео или аудио, оценивая уверенность, уровень агрессии внутренней и внешней, конгруэнтность (уровень согласованности информации, передаваемой вербальным и невербальным способом) и противоречивость, сравнивает слова с научными статьями и высказываниями других специалистов.

Система заточена пока только под английский язык. Разработчики объясняют это популярностью именно английского, а эксперты “Ъ” — тем, что 90% российских разработок, связанных с ИИ, построены на основе скачанных открытых зарубежных библиотек вместе с дата-сетами для их обучения.

“Поэтому разработка ИТМО адаптирована для английского языка. Для переобучения под русский потребуется большой массив данных и затраты”, — говорит топ-менеджер профильной ИТ-компании.

Доработка для получения текста из речи на русском языке стоит в ближайших планах, заверяют в ИТМО. Там же добавили, что система уже прошла предварительное тестирование в преддверии выборов в Сенат США.

“Мы проанализировали опубликованные на YouTube интервью шести кандидатов на предмет противоречивости, агрессии и уверенности в себе”, — говорит руководитель научно-исследовательской лаборатории “Когнитивная невербалика” НЦКР ИТМО Олег Басов.

По его словам, в заявлениях трех кандидатов система обнаружила скрытую агрессию, а одного из них удалось уличить во лжи. Анализировал ли эксперт речь российских политиков на английском языке, не уточняется.

Подробнее про дипфейки можно прочитать в материале “Технологии Deepfake как угроза информационной безопасности”.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

ВТБ раскрыл новую схему мошенничества от имени лжепсихологов

Мошенники начали представляться школьными психологами и методистами, чтобы обманом выманить у родителей учеников персональные и платёжные данные. Как сообщили в банке, злоумышленники требуют предоставить сведения или пройти некое «тестирование» — якобы для итоговой аттестации или составления «характеристики ученика».

В процессе разговора мошенники могут запрашивать паспортные данные, СНИЛС, ИНН — как у ребёнка, так и у родителей. Нередко они просят установить сторонние приложения, которые якобы необходимы для прохождения теста.

На деле всё это делается ради получения доступа к Порталу Госуслуг и банковским приложениям. Через процедуры восстановления доступа злоумышленники оформляют кредиты на имя родителей и похищают полученные средства.

«Мошенники всё чаще используют школьную тематику, играя на тревоге и доверчивости родителей. Они создают ощущение срочности, используют официальные термины — “государственная аттестация”, “характеристика ученика” — чтобы сбить с толку и не дать жертве задуматься. В таких случаях важно остановиться, прервать разговор и спокойно перепроверить информацию», — отметил вице-президент ВТБ, начальник управления защиты корпоративных интересов департамента по обеспечению безопасности Дмитрий Ревякин.

По его словам, аферисты часто звонят наугад — в том числе родителям уже взрослых детей или даже бездетным людям, рассчитывая на замешательство.

Ревякин также рекомендовал передавать номера мошенников в банк. Это можно сделать через раздел «Безопасность» в чат-боте ВТБ, на сайте, в мобильном приложении ВТБ Онлайн, а также в официальных аккаунтах банка в мессенджерах «ВКонтакте» и MAX. Эти номера передаются операторам связи для последующей блокировки.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru