Правительство взялось за борьбу с видеофейками

Правительство взялось за борьбу с видеофейками

Правительство взялось за борьбу с видеофейками

К 2030 году в России появится пять систем для распознавания видеофейков в СМИ и социальных сетях. К 2025 году такие системы должны выявлять не менее 70% фейков. На это власти планируют выделить гранты.

Планы правительства профинансировать разработку пяти программ по распознаванию сгенерированного контента (deep fakes) значатся в “дорожной карте” развития “Национального общесистемного ПО”, принятой в декабре.

На проекты планируется выделить гранты, их развитием займется Фонд содействия инновациям, пишет “Ъ”.

Из документа следует, что к 2025 году необходимо представить решение, которое будет способно распознать не менее 70% поддельного контента.

Пользователями технологии, по мнению Минцифры, могут стать новостные, медиа и PR-агентства, которые нуждаются в проверке достоверности информации. Полезна она будет и пользователям, сомневающимся в подлинности аудио- и визуального контента.

Конкретные проекты в рамках дорожной карты их реализации и объемы финансирования будут определены позже, добавили в министерстве.

На рынке давно есть проблема выявления “дипфейков”, говорят в RecFaces (разрабатывает программы биометрической идентификации на основе искусственного интеллекта). Но там не считают инициативу реализуемой, поскольку формат поддержки проектов в “дорожной карте” предполагает наличие “якорного” заказчика, а в данном случае его пока нет.

В RecFaces также отметили, что существует профессиональный и любительский сгенерированный контент:

“Если для любительского контента точности распознавания в 70% может хватить, то для профессионального, с актерами и видеомонтажерами, этого недостаточно, поскольку нужно анализировать дополнительные данные”.

По оценке RecFaces, разработка ПО, которое сможет различать профессиональный сгенерированный контент, может обойтись в миллиарды рублей.

Прежде всего точность в 70% означает, что примерно в каждом третьем случае нейросеть будет ошибаться, подчеркивает исполнительный директор по стратегии и инновационному развитию блока кибербезопасности МТС Евгений Черешнев.

“Глобально это не поможет бороться с фейками. Кроме того, было бы правильнее не создавать технологию с нуля. В условиях современной геополитической обстановки у нас нет трех лет на решение задачи”, — говорит эксперт.

Добавим, тема борьбы с “дипфейками” уже не раз поднималась в этом году. Роскомнадзор заинтересовался разработкой НИУ ИТМО в области распознавания лжи по видеозаписи, "ВКонтакте" представила собственную функцию “Дипфейк”, а в аналитическом отчёте “Прогноз влияния перспективных технологий на ландшафт угроз кибербезопасности” от Сбера технологии Deepfake поставлены в первый ряд опасностей в перспективе ближайших пяти лет.

Своя нейросеть, свой сервер: Selectel показал ИИ-админа без облачных рисков

Selectel решил, что системным администраторам надоело гуглить ошибки в три часа ночи, и выкатил aish — своего ИИ-агента, встроенного прямо в серверную ОС SELECTOS. Задумка кроется в том, чтобы не таскать логи и конфиги куда-то в облако к третьим лицам, а разбираться со всем на месте, без утечек и лишних глаз.

Aish здесь позиционируется не как отдельная игрушка, а как встроенный помощник для команд эксплуатации.

Агент умеет разбираться в контексте системы: смотрит на состояние сервисов, логи, конфигурацию — то есть видит примерно то же, что видел бы живой админ. На практике это значит разбор инцидентов, поиск причины, по которой очередной сервис лёг, и рутинные операции.

Отдельно Selectel налегает на принцип согласованного исполнения: агент не творит самодеятельность. Он формирует команду, объясняет, что именно она сделает, а запускает её всё равно оператор-человек.

Главный аргумент в пользу решения — безопасность данных. Большинство ИИ-агентов на рынке сегодня облачные, а значит, контекст сессии — логи, конфиги, детали инфраструктуры — улетает к внешнему провайдеру.

Для компаний с жёсткими политиками безопасности это форменный кошмар: и утечка возможна, и аудит толком не проведёшь. Aish эту головную боль снимает: нейросеть развёрнута локально, на серверах Selectel.

Как отметил Кирилл Дмитриев, директор департамента системного ПО Selectel, aish задумывался как способ снизить порог входа в системное администрирование Linux; специально для команд, которым по политикам безопасности запрещено использовать зарубежные LLM.

При этом SELECTOS доступна в форматах ISO, QCOW2 и в виде контейнерных образов, работает на облачных и выделенных серверах, соответствующих 152-ФЗ, а благодаря Debian-базе переход на неё не требует переобучения. Команда просто пересаживается на знакомый руль, только теперь с ИИ-помощником на подхвате.

RSS: Новости на портале Anti-Malware.ru