Через 5 лет ИИ будет сам находить и помечать фейки в интернете

Через 5 лет ИИ будет сам находить и помечать фейки в интернете

Через 5 лет ИИ будет сам находить и помечать фейки в интернете

Развитие технологий скоро приведет к тому, что ИИ будет сам искать и маркировать фейки в интернете. Горизонт планирования — 5-10 лет, предполагают эксперты. Сейчас исследователи работают над вычислением следов искусственного изменения контента и нейромаркетингом.

Перспективами обнаружения фейковых материалов с агентством ТАСС поделился руководитель рабочей группы Национальной технологической инициативы "Нейронет" Андрей Иващенко.

“Уже сейчас, — говорит эксперт, — есть большое количество технологий, автоматически распознающих различного рода "склейки" и монтаж в видеоматериалах”.

Текстовые анализаторы могут определить, написан ли текст одним человеком или разными людьми, что особенно востребовано при анализе комментариев в социальных сетях или отзывов на товары и услуги.

“Вполне вероятно, что через 5-10 лет мы будем заходить на сайт и сразу видеть отметки о фейковых материалах", — предполагает Иващенко.

Эксперт также считает, что сам интернет станет более адаптированным под потребности человека. Люди, например, смогут управлять операционной системой с помощью голосовых команд.

Разработчики "Нейронета" сейчас работают над развитием двух видов технологий, полезных для борьбы с фейками, рассказал Иващенко.

В первую категорию входят ИИ-системы, анализирующие текст, аудио, фото- и видеоизображения. Они позволяют вычислить следы искусственного изменения контента.

Второе направление — нейромаркетинг. В этом случае анализируются эмоциональные и поведенческие реакции человека с учетом биологической (невербальной) обратной связи — глазодвигательных, кожных реакций, температуры тела, ЭЭГ, ЭКГ, по которым можно определить истинные эмоции человека.

“Аналогичный принцип можно перенести на распознавание таких сигналов на видео. Например, следить за движением глаз, дыханием, положением тела", — объясняет эксперт.

Добавим, в конце февраля Роскомнадзор анонсировал запуск системы обнаружения информационных бомб “Вепрь”. Заработать она должна уже в этом году. Зимой запустили и другую систему со схожими целями. “Окулус” представляет собой автоматическую систему поиска запрещенного контента. Основная тематика поиска — экстремизм, наркотики, митинги, пропаганда ЛГБТ и военные фейки. К 2025 году “Окулус” обещают научить детально анализировать действия людей в интернете. “Вепрь” и “Окулус” должны войти в единую систему мониторинга информационного пространства.

Одноразовые СМС-ссылки годами открывают доступ к личным данным

Одноразовые ссылки, которые сервисы рассылают по СМС для входа или подтверждения действий, на практике часто оказываются вовсе не одноразовыми. Новое исследование показало, что такие URL могут годами оставаться активными и открывать доступ к персональным данным пользователей.

Исследователи собрали данные через публичные СМС-шлюзы — сайты, где отображаются сообщения, отправленные на временные номера.

В общей сложности специалисты проанализировали более 33 млн сообщений, связанных с 30 тыс. телефонных номеров, и извлекли около 323 тысячи уникальных ссылок, ведущих на 10,9 тыс. доменов.

Из примерно 147 тыс. доступных URL удалось выявить 701 конечную точку, раскрывающую персональные данные пользователей. Эти ссылки относились к 177 сервисам. В открытом доступе оказывались имена, номера телефонов, адреса, даты рождения, банковские реквизиты, номера социального страхования и кредитные данные. Во многих случаях одной ссылки хватало для сбора подробного профиля человека.

 

Особую тревогу вызвал срок жизни таких ссылок. Все 701 URL оставались рабочими на момент проверки. Более половины из них были возрастом от одного до двух лет, ещё 46% — старше двух лет, а некоторые датировались 2019 годом. По словам авторов исследования, чем дольше ссылка остаётся активной, тем выше риск её утечки — через пересылку сообщений, логи, взломанные устройства или повторное использование номеров.

Во всех подтверждённых случаях доступ к данным строился по принципу bearer-link: сама ссылка служила единственным «ключом» и не требовала дополнительной аутентификации. В 15 сервисах по таким URL можно было изменять персональные данные, а в шести случаях — фактически получить доступ к аккаунту пользователя.

Отдельной проблемой стали слабые токены. Около 73% сервисов использовали ссылки с низкой энтропией, которые можно было подобрать. В ряде случаев исследователям удавалось получить доступ к чужим данным менее чем за десять попыток.

Авторы исследования уведомили 150 компаний, чьи сервисы оказались уязвимыми. Ответили лишь 18, а реальные фиксы внедрили только семь. По мнению исследователей, сама модель доверия к СМС-ссылкам как «безопасному» каналу остаётся системной проблемой: пока такие механизмы проектируются ради удобства, а не безопасности, утечки данных будут неизбежны.

RSS: Новости на портале Anti-Malware.ru