ИСП РАН работает над маркировкой дипфейков

ИСП РАН работает над маркировкой дипфейков

ИСП РАН работает над маркировкой дипфейков

Директор Института системного программирования РАН им. В. П. Иванникова академик Арутюн Аветисян в кулуарах открытой конференции ИСП РАН заявил о том, что институт работает над цифровыми метками для маркировки контента, сгенерированного искусственным интеллектом (ИИ).

Пока, как отметил Арутюн Аветисян в беседе с корреспондентом ТАСС на полях конференции, готовые инструменты «позволяющие автоматически однозначно идентифицировать сгенерированный ИИ контент», отсутствуют. Причем их нет не только в России, но и в любой другой стране мира.

Директор ИСП РАН заявил, что в институте уже работают над своего рода цифровыми водяными знаками для маркировки материалов, сгенерированных с помощью ИИ. Это позволит защитить пользователей от угроз, которые несет распространение ложных данных.

Уже в первом квартале 2024 года, по данным Positive Technologies, дипфейки фигурировали в 85% атак на частных лиц с использованием методов социальной инженерии.

Необходимость маркирования такого контента отражена в регуляторных документах целого ряда стран, включая Россию, США, а также Евросоюз.

«[В ИСП РАН разработана] технология DocMarking, использующая машинное обучение для внедрения незаметных меток в изображения или видеопоток. Изначально мы применяли ее для борьбы с утечками конфиденциальных документов, а теперь адаптируем для пометки сгенерированного контента», — заявил Арутюн Аветисян корреспонденту ТАСС.

Телевизоры LG заподозрили в прослушке хозяев даже с выключенным экраном

Умные телевизоры LG могут записывать звук в режиме ожидания, сканировать домашнюю сеть и собирать данные о соседних устройствах. К таким выводам пришли авторы YouTube-канала Gamers Nexus после анализа работы нескольких серийных OLED-моделей, включая LG G5.

Исследователи изучили сетевой трафик телевизоров и обнаружили, что устройства ищут в локальной сети смартфоны и умные часы, собирают внутренние IP-адреса, названия доступных сетей Wi-Fi и сведения о местоположении.

Больше всего вопросов вызвал встроенный микрофон. По данным эксперимента, телевизоры записывали разборчивый звук даже в режиме ожидания, когда экран был выключен.

Если устройство отключали от интернета, аудиозаписи сохранялись локально, а после восстановления соединения передавались в сеть.

Кроме того, телевизоры использовали технологию автоматического распознавания контента ACR. Она создаёт цифровые отпечатки фильмов, передач и другого видео, которое смотрит пользователь.

Собранная информация, как утверждают исследователи, поступает в рекламное подразделение LG Ad Solutions и может использоваться для таргетированной рекламы.

В webOS также обнаружили уязвимости, потенциально позволяющие удалённо выполнять код. Подробностей об исправлениях пока нет, а LG на момент публикации результатов расследования ситуацию не прокомментировала.

До появления официальных разъяснений эксперты рекомендуют отключить телевизор от интернета и использовать внешнюю приставку.

RSS: Новости на портале Anti-Malware.ru