ИСП РАН работает над маркировкой дипфейков

ИСП РАН работает над маркировкой дипфейков

ИСП РАН работает над маркировкой дипфейков

Директор Института системного программирования РАН им. В. П. Иванникова академик Арутюн Аветисян в кулуарах открытой конференции ИСП РАН заявил о том, что институт работает над цифровыми метками для маркировки контента, сгенерированного искусственным интеллектом (ИИ).

Пока, как отметил Арутюн Аветисян в беседе с корреспондентом ТАСС на полях конференции, готовые инструменты «позволяющие автоматически однозначно идентифицировать сгенерированный ИИ контент», отсутствуют. Причем их нет не только в России, но и в любой другой стране мира.

Директор ИСП РАН заявил, что в институте уже работают над своего рода цифровыми водяными знаками для маркировки материалов, сгенерированных с помощью ИИ. Это позволит защитить пользователей от угроз, которые несет распространение ложных данных.

Уже в первом квартале 2024 года, по данным Positive Technologies, дипфейки фигурировали в 85% атак на частных лиц с использованием методов социальной инженерии.

Необходимость маркирования такого контента отражена в регуляторных документах целого ряда стран, включая Россию, США, а также Евросоюз.

«[В ИСП РАН разработана] технология DocMarking, использующая машинное обучение для внедрения незаметных меток в изображения или видеопоток. Изначально мы применяли ее для борьбы с утечками конфиденциальных документов, а теперь адаптируем для пометки сгенерированного контента», — заявил Арутюн Аветисян корреспонденту ТАСС.

45% российских компаний внедряют ИИ без бюджета на его защиту

На ЦИПР-2026 представили первые данные исследования «Солара», Б1, Ассоциации ФинТех и HiveTrace о внедрении ИИ в российских компаниях. Картина получилась ожидаемая: бизнес активно тащит нейросети в процессы, но безопасность местами опять идёт где-то следом.

По данным исследования, около 80% российских компаний уже в том или ином виде интегрируют ИИ в бизнес-процессы.

Ещё 35% считают его стратегическим приоритетом на ближайшие годы. При этом 45% компаний не выделяют отдельный бюджет на защиту ИИ, а формализованные политики ИБ для ИИ-сервисов есть только у 25%.

То есть ИИ уже помогает писать код, обрабатывать документы, отвечать клиентам, прогнозировать спрос, искать недвижимость, оценивать чистоту автомобилей и даже подбирать шихтовые материалы для сталеплавильной печи. Но отдельный вопрос «а кто всё это будет защищать?» у многих пока обходится стороной.

В рамках сессии на ЦИПР-2026 эксперты привели кейсы «Ростелекома», «Делимобиля», Альфа-Банка, «АльфаСтрахования», ТМК и «Циана». Компании используют ИИ в контакт-центрах, базах знаний, разработке, триаже уязвимостей, динамическом ценообразовании, оценке фото, модерации, поиске недвижимости и промышленных расчётах.

При этом сами участники рынка хорошо понимают, где болит. Среди ключевых рисков использования ИИ компании называют утечки данных — их отметили 80% респондентов. Ещё 60% опасаются некорректной генерации контента, а 54% — компрометации источников данных и баз знаний.

Есть и внешние угрозы. Российские компании считают наиболее опасными автоматизацию разведки и атак с помощью ИИ (67%), генерацию вредоносного кода (54%) и дипфейки, которые усиливают социальную инженерию (51%).

RSS: Новости на портале Anti-Malware.ru