Через 5 лет ИИ будет сам находить и помечать фейки в интернете

Через 5 лет ИИ будет сам находить и помечать фейки в интернете

Через 5 лет ИИ будет сам находить и помечать фейки в интернете

Развитие технологий скоро приведет к тому, что ИИ будет сам искать и маркировать фейки в интернете. Горизонт планирования — 5-10 лет, предполагают эксперты. Сейчас исследователи работают над вычислением следов искусственного изменения контента и нейромаркетингом.

Перспективами обнаружения фейковых материалов с агентством ТАСС поделился руководитель рабочей группы Национальной технологической инициативы "Нейронет" Андрей Иващенко.

“Уже сейчас, — говорит эксперт, — есть большое количество технологий, автоматически распознающих различного рода "склейки" и монтаж в видеоматериалах”.

Текстовые анализаторы могут определить, написан ли текст одним человеком или разными людьми, что особенно востребовано при анализе комментариев в социальных сетях или отзывов на товары и услуги.

“Вполне вероятно, что через 5-10 лет мы будем заходить на сайт и сразу видеть отметки о фейковых материалах", — предполагает Иващенко.

Эксперт также считает, что сам интернет станет более адаптированным под потребности человека. Люди, например, смогут управлять операционной системой с помощью голосовых команд.

Разработчики "Нейронета" сейчас работают над развитием двух видов технологий, полезных для борьбы с фейками, рассказал Иващенко.

В первую категорию входят ИИ-системы, анализирующие текст, аудио, фото- и видеоизображения. Они позволяют вычислить следы искусственного изменения контента.

Второе направление — нейромаркетинг. В этом случае анализируются эмоциональные и поведенческие реакции человека с учетом биологической (невербальной) обратной связи — глазодвигательных, кожных реакций, температуры тела, ЭЭГ, ЭКГ, по которым можно определить истинные эмоции человека.

“Аналогичный принцип можно перенести на распознавание таких сигналов на видео. Например, следить за движением глаз, дыханием, положением тела", — объясняет эксперт.

Добавим, в конце февраля Роскомнадзор анонсировал запуск системы обнаружения информационных бомб “Вепрь”. Заработать она должна уже в этом году. Зимой запустили и другую систему со схожими целями. “Окулус” представляет собой автоматическую систему поиска запрещенного контента. Основная тематика поиска — экстремизм, наркотики, митинги, пропаганда ЛГБТ и военные фейки. К 2025 году “Окулус” обещают научить детально анализировать действия людей в интернете. “Вепрь” и “Окулус” должны войти в единую систему мониторинга информационного пространства.

Директор загрузила документы в DeepSeek и лишилась золотого парашюта

Топ-менеджер московской инженерной компании попыталась получить пять миллионов рублей после увольнения за разглашение коммерческой тайны. Но суд решил, что загружать служебные документы в DeepSeek — не лучший способ заработать золотой парашют. Женщина проработала директором по продажам менее полугода и получала свыше 800 тысяч рублей в месяц.

После увольнения по инициативе работодателя она потребовала через суд изменить формулировку на «по соглашению сторон» и выплатить предусмотренную для такого случая компенсацию в размере пяти миллионов рублей.

Компания возразила: сотрудница неоднократно обращалась с конфиденциальными данными слишком вольно. Она пересылала служебные документы по корпоративной почте, добавляя личный адрес в скрытую копию.

Кроме того, несколько файлов из внутреннего защищённого ресурса оказались загружены в китайскую нейросеть DeepSeek. По мнению работодателя, это создало угрозу перехвата информации.

Суд тоже не нашёл производственной необходимости ни в отправке документов на неподконтрольную компании почту, ни в их размещении в стороннем ИИ-сервисе. Такие действия признали грубым нарушением трудовых обязанностей и разглашением коммерческой и служебной тайны.

Компания также заявила, что после раскрытия конфиденциальной информации во время переговоров один из поставщиков перестал выходить на связь. Дополнительно работодатель сослался на систематическое невыполнение плана продаж.

При этом компания предлагала мировое соглашение: изменить формулировку увольнения и выплатить более 400 тысяч рублей. Бывшая сотрудница отказалась, рассчитывая на полные пять миллионов, но суд отклонил её требования.

История особенно вовремя всплыла после сообщений о попадании переписок пользователей DeepSeek в поисковую выдачу Google. Впрочем, в этом деле доказанная утечка через нейросеть не упоминается, суду хватило самого факта передачи защищённых документов стороннему сервису.

RSS: Новости на портале Anti-Malware.ru