Касперская: Более 7 млн подростков вовлечены в опасные группы в соцсетях

Касперская: Более 7 млн подростков вовлечены в опасные группы в соцсетях

Касперская: Более 7 млн подростков вовлечены в опасные группы в соцсетях

На прошедшем форуме «Цифровая гигиена. Молодёжь в сети» Наталья Касперская, возглавляющая ГК InfoWatch, поделилась своим мнением относительно негативного влияния на подростков определенных сообществ в социальных сетях.

На мероприятии подняли вопрос деструктивного воздействия на молодежь, которое демонстрируют отдельные сообщества и группы в социальных сетях. Было обращено внимание на необходимость решения данной проблемы путем координации усилий государства, бизнеса и общества.

Взяв слово, Наталья Касперская привела статистику системы мониторинга и анализа социальных медиа «Крибрум». Согласно предоставленным главой InfoWatch данным, деструктивному воздействию подвергаются в Сети семь миллионов подростков.

При этом прирост вовлеченности по теме наркотиков, убийств, травли и суицида, составляет два миллиона пользователей в год.

Наталья Касперская уточнила, что вовлеченность участников сообществ считалась на основе лайков, репостов и комментариев в отношении опасного контента.

Также Касперская подробнее углубилась в анализ методов вовлечения подростков в деструктивные группы. По словам специалиста, использовавшего термин «воронка вовлечения», этот механизм устроен таким образом, что изначально подросткам демонстрируются лишь привлекательные фото, видео или призывы общего характера.

Сам опасный контент на данном этапе вовлечения не фигурирует. А уже затем начинается планомерное навязывание все более деструктивного контента, в ходе которого злоумышленник ориентируется на то, что заинтересовало того или иного подростка.

Заключительным этапом опасное общение переходит в офлайн-режим. Наталья Касперская подчеркнула, что блокировка подобных групп крайне затруднена, а социальные сети, в которых они зарегистрированы, не несут ответственности за их деятельность.

Сам форум «Цифровая гигиена. Молодёжь в сети» прошел в МИА «Россия сегодня». В нем приняли участие представители МЧС России, Министерства просвещения России, Министерства внутренних дел РФ, а также представители общественных организаций.

В России разработали бесплатный детектор для поиска дипфейков

Компания «Архитех ИИ» разработала инструмент KodikScan для проверки цифрового контента на признаки генерации или обработки с помощью искусственного интеллекта. Сервис будет доступен бесплатно и рассчитан на пользователей, журналистов, блогеров и редакции, которым нужно быстро понять, насколько материал похож на фейк.

KodikScan умеет анализировать изображения, видео, аудио и текст. Система ищет скрытые признаки ИИ-генерации: визуальные паттерны, структуру шума, динамику кадров в видео, особенности голоса в аудио и статистические закономерности в тексте.

После этого инструмент оценивает вероятность того, что контент был создан или изменён нейросетью.

По словам разработчика ИИ-среды Kodik Рафаэля Гильмурахманова, сервис задумывался как инструмент для цифровой гигиены. Он отметил, что фейковый контент всё чаще используют в мошеннических схемах: например, злоумышленники могут присылать «кружочки» или видеосообщения якобы от знакомых с просьбой перейти по ссылке или перевести деньги.

Для обычных пользователей такая проверка может стать способом не повестись на подделку. Для СМИ и авторов пабликов — дополнительным фильтром перед публикацией спорных материалов. Особенно это актуально на фоне обсуждения инициатив по превентивной блокировке резонансных дипфейков до проверки их достоверности.

Разработчики также планируют предоставить KodikScan журналистам российских СМИ для тестирования в рабочих задачах. Воспользоваться сервисом может любой желающий на сайте scan.kodik.ru: достаточно загрузить файл и получить оценку вероятности применения ИИ.

По данным «Архитех ИИ», на тестах инструмент определял признаки генерации искусственным интеллектом с точностью 98,03%. При этом, как и с любыми подобными системами, результат стоит воспринимать не как окончательный приговор, а как подсказку: если сервис видит признаки ИИ, материал точно стоит проверить внимательнее.

RSS: Новости на портале Anti-Malware.ru