ИСП РАН работает над маркировкой дипфейков

ИСП РАН работает над маркировкой дипфейков

ИСП РАН работает над маркировкой дипфейков

Директор Института системного программирования РАН им. В. П. Иванникова академик Арутюн Аветисян в кулуарах открытой конференции ИСП РАН заявил о том, что институт работает над цифровыми метками для маркировки контента, сгенерированного искусственным интеллектом (ИИ).

Пока, как отметил Арутюн Аветисян в беседе с корреспондентом ТАСС на полях конференции, готовые инструменты «позволяющие автоматически однозначно идентифицировать сгенерированный ИИ контент», отсутствуют. Причем их нет не только в России, но и в любой другой стране мира.

Директор ИСП РАН заявил, что в институте уже работают над своего рода цифровыми водяными знаками для маркировки материалов, сгенерированных с помощью ИИ. Это позволит защитить пользователей от угроз, которые несет распространение ложных данных.

Уже в первом квартале 2024 года, по данным Positive Technologies, дипфейки фигурировали в 85% атак на частных лиц с использованием методов социальной инженерии.

Необходимость маркирования такого контента отражена в регуляторных документах целого ряда стран, включая Россию, США, а также Евросоюз.

«[В ИСП РАН разработана] технология DocMarking, использующая машинное обучение для внедрения незаметных меток в изображения или видеопоток. Изначально мы применяли ее для борьбы с утечками конфиденциальных документов, а теперь адаптируем для пометки сгенерированного контента», — заявил Арутюн Аветисян корреспонденту ТАСС.

Злоумышленники используют имитацию взлома для кражи учеток Telegram

Компания F6 выявила новую фишинговую схему кражи аккаунтов пользователей Telegram. В качестве приманки злоумышленники используют сообщение о якобы взломе чата и его «переезде» на новую площадку. Активность зафиксирована в крупных чатах — домовых и ЖК, университетских, посвящённых тематике СВО, поиску работы, покупкам на маркетплейсах и классифайдах.

О новой схеме сообщило РИА Новости со ссылкой на F6.

«В открытых чатах, насчитывающих от 1000 до более чем 100 тысяч пользователей, мошенники публикуют предупреждения о якобы взломанных аккаунтах участников, от имени которых распространяется фейковая информация. Далее в том же сообщении говорится, что администратор или модератор чата потерял доступ к своему профилю, поэтому чат якобы “переезжает на новое место”. Пользователям предлагают перейти по ссылке, обычно скрытой под фразой “Перейти в новый чат”», — описала схему Анастасия Князева.

После перехода по ссылке пользователь попадает в бот, который просит ввести пятизначный код «для подтверждения личности». На деле этот код используется для привязки нового устройства к аккаунту Telegram. Если профиль не защищён «облачным паролем», злоумышленники получают к нему полный доступ.

В результате они могут действовать от имени пользователя и просматривать всю историю переписки. Кроме того, с захваченного аккаунта рассылаются новые сообщения о «переезде», что позволяет масштабировать атаку.

Спустя некоторое время злоумышленники могут заблокировать основное устройство владельца аккаунта, получив возможность читать даже закрытые и служебные чаты. При этом, как отмечают в F6, фишинговые ссылки «живут» недолго, что затрудняет их оперативную блокировку.

Несколькими днями ранее F6 предупреждала о злонамеренных ботах, которые под предлогом «ускорения» Telegram похищали аккаунты и распространяли зловред.

RSS: Новости на портале Anti-Malware.ru