Полиция Южной Кореи расследует роль Telegram в распространении дипфейков

Полиция Южной Кореи расследует роль Telegram в распространении дипфейков

Полиция Южной Кореи расследует роль Telegram в распространении дипфейков

Инициированное в Южной Корее расследование касается распространения через мессенджер Telegram изображений сексуального характера.

Расследованию дало старт массовое общественное возмущение по поводу распространения цифровой порнографии, сгенерированной на основе изображений реальных людей.

Согласно отчету Security Hero за 2023 год о дипфейках по всему миру, на который ссылается агентство Reuter, более половины всех изображений сексуального характера сгенерированы на основе южнокорейских знаменитостей.

Раннее власти страны обещали, что будут бороться с преступным использованием Telegram, в том числе и с различными проявлениями сексуальной эксплуатации. Это совпало по времени с французским расследованием в отношении Павла Дурова.

Расследованием, по данным ТАСС, стал материал газеты «Хангёрё» от 22 августа о телеграм-каналах, участники которых в чатах создавали и распространяли дипфейк-видео сексуального характера. Большая часть правонарушителей по таким делам — несовершеннолетние.

Комиссар Национального полицейского агентства Чо Джи Хо анонсировал аналогичные расследования и в отношении других мессенджеров. Выступая в парламенте, он назвал эти расследования сложными и трудоемкими.

Администрация Telegram неоднократно заявляла, что активно модерирует вредный контент на своей платформе. Платформа предоставила властям Южной Кореи «новый эксклюзивный адрес электронной почты» для коммуникации.

Платформа также сообщила об удалении 25 видеоматериалов откровенного содержания по запросу комиссии. Власти Южной Кореи выразили уверенность в том, что это положит начало созданию «горячей линии» для быстрого реагирования на различные инциденты.

Старое сообщение выбило Telegram из App Store: Дуров обвинил вымогателя

Павел Дуров (внесён в перечень террористов и экстремистов Росфинмониторинга) объяснил временное исчезновение Telegram из App Store атакой вымогателя. По его версии, злоумышленник отредактировал старое сообщение в публичной группе и добавил туда незаконный контент, предварительно изменённый с помощью ИИ.

Трюк позволил спрятать публикацию от участников активного чата: пользователи её практически не видели и не могли пожаловаться модераторам.

Зато сам автор оперативно отправил жалобу Apple. Компания обнаружила материалы с сексуальным насилием над детьми (CSAM) и удалила Telegram из магазина приложений.

По словам Дурова, за атакой стоял вымогатель, который требует деньги у владельцев публичных групп, угрожая подбросить запрещённые материалы и пожаловаться Apple. Для этого используются автоматизированные аккаунты и технические уловки, способные обойти привычные фильтры модерации.

Telegram и экспериментальный Telegram X пропали из App Store утром 4 августа сразу в нескольких странах, включая Россию, Турцию и США. Примерно через полтора часа приложения вернулись. Всё это время у части пользователей не работали пуш-уведомления на iOS. Версии для macOS и Android инцидент не затронул.

Apple заявила, что восстановила приложения после того, как Telegram удалил запрещённый материал и заблокировал распространившего его пользователя. Дуров, однако, возмутился тем, что корпорация сначала нажала красную кнопку и только потом стала разбираться: перед удалением мессенджера с его администрацией якобы никто не связался.

Основатель Telegram предупредил, что такой механизм опасен для любых платформ с пользовательским контентом. Получается удобная схема: спрятать запрещённый материал, самому же пожаловаться и устроить приложению внезапный вылет из App Store.

Telegram призвал Apple одинаково строго проверять жалобы на все приложения.

RSS: Новости на портале Anti-Malware.ru