Через 5 лет ИИ будет сам находить и помечать фейки в интернете

Через 5 лет ИИ будет сам находить и помечать фейки в интернете

Через 5 лет ИИ будет сам находить и помечать фейки в интернете

Развитие технологий скоро приведет к тому, что ИИ будет сам искать и маркировать фейки в интернете. Горизонт планирования — 5-10 лет, предполагают эксперты. Сейчас исследователи работают над вычислением следов искусственного изменения контента и нейромаркетингом.

Перспективами обнаружения фейковых материалов с агентством ТАСС поделился руководитель рабочей группы Национальной технологической инициативы "Нейронет" Андрей Иващенко.

“Уже сейчас, — говорит эксперт, — есть большое количество технологий, автоматически распознающих различного рода "склейки" и монтаж в видеоматериалах”.

Текстовые анализаторы могут определить, написан ли текст одним человеком или разными людьми, что особенно востребовано при анализе комментариев в социальных сетях или отзывов на товары и услуги.

“Вполне вероятно, что через 5-10 лет мы будем заходить на сайт и сразу видеть отметки о фейковых материалах", — предполагает Иващенко.

Эксперт также считает, что сам интернет станет более адаптированным под потребности человека. Люди, например, смогут управлять операционной системой с помощью голосовых команд.

Разработчики "Нейронета" сейчас работают над развитием двух видов технологий, полезных для борьбы с фейками, рассказал Иващенко.

В первую категорию входят ИИ-системы, анализирующие текст, аудио, фото- и видеоизображения. Они позволяют вычислить следы искусственного изменения контента.

Второе направление — нейромаркетинг. В этом случае анализируются эмоциональные и поведенческие реакции человека с учетом биологической (невербальной) обратной связи — глазодвигательных, кожных реакций, температуры тела, ЭЭГ, ЭКГ, по которым можно определить истинные эмоции человека.

“Аналогичный принцип можно перенести на распознавание таких сигналов на видео. Например, следить за движением глаз, дыханием, положением тела", — объясняет эксперт.

Добавим, в конце февраля Роскомнадзор анонсировал запуск системы обнаружения информационных бомб “Вепрь”. Заработать она должна уже в этом году. Зимой запустили и другую систему со схожими целями. “Окулус” представляет собой автоматическую систему поиска запрещенного контента. Основная тематика поиска — экстремизм, наркотики, митинги, пропаганда ЛГБТ и военные фейки. К 2025 году “Окулус” обещают научить детально анализировать действия людей в интернете. “Вепрь” и “Окулус” должны войти в единую систему мониторинга информационного пространства.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Найден Android-бэкдор в фейковом Telegram X: заражены 58 тысяч устройств

Специалисты «Доктор Веб» нашли опасный бэкдор Android.Backdoor.Baohuo.1.origin в модифицированных вариантах мессенджера Telegram X. Зловред распространяется в формате APK, обеспечивает полнофункциональный удалённый контроль над аккаунтом и умеет красть и модифицировать данные — от логинов и паролей до истории чатов.

Что умеет троян:

  • Скрывать от пользователя подключённые устройства в списке активных сеансов Telegram, чтобы компрометация не бросалась в глаза.
  • Добавлять и удалять пользователя из каналов, вступать в чаты от его имени и выходить из них — злоумышленники могут накручивать подписчиков и управлять активностью аккаунта.
  • Перехватывать содержимое буфера обмена, загружать СМС и контакты, вытаскивать историю сообщений и токены аутентификации.
  • Работать через классический C2 и — что необычно для Android — через базу данных Redis: злоумышленники публикуют команды в Redis, а бэкдор подхватывает их как второй канал управления.
  • Создавать прокси-сервисы на заражённых устройствах (NPS), загружать обновления трояна и показывать фишинговые окна прямо в интерфейсе мессенджера.

По оценкам «Доктор Веб», число заражённых устройств превысило 58 000, при этом аналитики фиксируют примерно 20 000 активных подключений одновременно. Под удар попали около 3 000 моделей устройств — это не только смартфоны и планшеты, но и ТВ-приставки, а иногда и автомобили с Android-бортовыми системами.

Распространяется бэкдор главным образом через рекламные баннеры в приложениях: жертве предлагают скачать «Telegram X» с сайта, где мессенджер подаётся как сервис для знакомств или видеочатов. Сайт выглядит как магазин приложений с фиктивными отзывами и кнопкой загрузки APK.

 

Авторы кампании готовят шаблоны на португальском (ориентир — Бразилия) и индонезийском — эти страны в приоритете, но атаки могут выйти и на другие регионы.

 

Кроме вредоносных сайтов, модификации были найдены и в сторонних каталогах приложений — APKPure, ApkSum, AndroidP — иногда даже под подписью настоящего разработчика, хотя цифровые подписи не совпадают с оригиналом. «Доктор Веб» уведомил площадки о проблеме.

Как встроен бэкдор

Обнаружены три основных подхода злоумышленников: встраивание бэкдора прямо в DEX-файл приложения, динамический патч через LSPatch и загрузка дополнительного DEX-файла из ресурсов. При запуске модифицированного Telegram X бэкдор инициализируется незаметно — для пользователя приложение выглядит обычным, но при этом злоумышленники получают полный контроль.

 

Для изменения поведения используют и фреймворк Xposed, и зеркала методов приложения, чтобы подсовывать фальшивые окна и перехватывать действия.

Какие команды выполняет троян

Список возможностей длинный: скрывать чаты, блокировать уведомления, показывать фишинговые сообщения, подписывать и отписывать от каналов, выгружать базы данных чатов, слать на сервер содержимое буфера обмена, присылать список установленных приложений и многое другое. Команды приходят и через C2, и через Redis — при этом реализована дублирующая логика, если один канал недоступен.

Что делать пользователям:

  • Не скачивайте APK с сомнительных сайтов и не переходите по рекламным баннерам с предложениями «удобных видеочатов».
  • Загружайте приложения только из официальных магазинов и проверяйте цифровые подписи.
  • Включите двухфакторную аутентификацию в Telegram и регулярно проверяйте список активных сеансов (Settings → Devices). Если видите неизвестные устройства — разлогиньтесь на них.
  • Не храните пароли и критичные фразы в буфере обмена, используйте менеджеры паролей.
  • Обновляйте ОС и приложения, ставьте официальные обновления безопасности; при сомнении — переустановите приложение из официального источника.
  • Рассмотрите установку мобильного антивируса и проверку устройства на наличие вредоносные программы.
AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru