Пермские ученые разработали фильтр для «враждебного» контента

Пермские ученые разработали фильтр для «враждебного» контента

Ученые Пермского государственного национального исследовательского университета (ПГНИУ) разработали программу для фильтрации в интернете противоправного контента — экстремистских и оскорбительных высказываний, сообщает пресс-служба вуза.

В настоящее время в рунете, по данным проведенного учеными анализа веб-текстов разных стран, господствует речевой терроризм. Чило таких нарушений в российском интернете гораздо выше, чем на форумах Германии и Польши. Так, около 26% комментариев в публичном секторе рунета содержат экстремистские или оскорбительные высказывания.

Аспирантка кафедры речевой коммуникации ПГНИУ Евгения Мехонина и ассистент этой кафедры Лиана Ермакова предложили инструмент фильтрации противоправного контента — инновационную программу FILTEX, с помощью которой любой пользователь сможет избавиться от противоправного контента в социальных сетях и блогах. Программа была разработана под руководством доктора филологических наук Владимира Салимовского и кандидата технических наук Даниила Курушина, сообщает digit.ru.

«Главное отличие FILTEX от других программ — технология распознавания противоправного контента. Мы используем подход известного профессора ПГНИУ Маргариты Николаевны Кожиной — подход системности речи. Он состоит в том, что на всех уровнях языка (лексическом, морфологическом, синтаксическом и других) можно выделить черты, признаки враждебности. Их можно формализовать при помощи математических методов, то есть представить в виде, понятном для машины», — приводятся в сообщении слова Мехониной.

Разработчики полагают, что этой программой можно будет воспользоваться как приложением в социальных сетях, а организации получат доступ к программе через веб-сервис. Потенциальные пользователи FILTEX — блогеры и политики, СМИ и другие организации, желающие очистить свои сайты от противоправных комментариев.

«В настоящее время у нас создан исследовательский прототип, пока нет интерфейса. Программа пока лишь помечает в тексте нужные части (противоправные высказывания). Планируется, что в будущем, по нашей задумке, программа будет, скорее всего, удалять такие предложения. Но мы будет учитывать и мнение пользователей, хотим, чтобы ее функции зависели от самой страницы, на которой она используется. То есть, чтобы были варианты: либо программа будет совсем удалять негативный текст, либо, к примеру, вообще не даст вводить его», — сказала РИА Новости Мехонина.

По ее словам, коллеги из пермского университета и других вузов страны работают в этом направлении, и уже есть подобные решения. Но никто ранее не использовал подход системности речи, а он наиболее полный. Уже весной лингвисты намерены подготовить первую пользовательскую версию разработки.

«Примерно к весне, к марту-апрелю, мы рассчитываем создать первую версию интерфейса программы, а к лету выйдем на контакт с провайдерами для продвижения разработки», — заключила Мехонина.

В настоящее время Евгения Мехонина и Лиана Ермакова уже получили свидетельства о регистрации интеллектуальной собственности на свою программу. 

 

Шокирующие ролики о ДТП оказались приманкой для кражи паролей и данных

Мошенники нашли ещё один способ сыграть на эмоциях пользователей, на этот раз через шокирующие сюжеты об автоавариях. Как сообщили эксперты центра мониторинга внешних цифровых угроз Solar AURA группы компаний «Солар», злоумышленники начали использовать фишинговые сайты, которые обещают показать видео ДТП, а на деле подсовывают пользователю вредонос.

Одна из обнаруженных схем маскировалась под страницу «Госавтоинспекции». Пользователю сообщали, что он якобы может посмотреть запись собственного нарушения за рулём.

Для этого предлагалось скачать специальное приложение, через которое якобы открывается доступ к видео. Но вместо ролика человек получал вредоносную программу.

По данным экспертов, такой файл может красть с устройства конфиденциальную информацию, в том числе пароли от банковских приложений, мессенджеров и других онлайн-сервисов.

Была и вторая схема с «эксклюзивными видео страшных автоаварий». Для правдоподобия злоумышленники указывали дату, примерное время ДТП, а иногда даже число погибших и пострадавших. Эти детали могли быть как полностью выдуманными, так и собранными из открытых криминальных сводок и новостей.

Дальше всё происходило по уже знакомому сценарию: пользователю предлагали скачать «видеозапись» или программу для её просмотра. На самом деле под этим снова скрывался зловред. Как уточнили в «Солар», оба выявленных сайта к моменту публикации уже были заблокированы.

Эксперты отдельно обращают внимание, что опасность здесь не только в самой фишинговой приманке, но и в начинке таких файлов. Вредоносная нагрузка может быстро меняться, буквально каждый час. Это может быть как стилер для кражи данных, так и RAT, который даёт злоумышленникам удалённый доступ к устройству.

Именно поэтому схема получается особенно опасной: пользователь думает, что открывает видео или служебное уведомление, а в итоге сам запускает программу, которая начинает вытаскивать данные или даже брать устройство под контроль.

RSS: Новости на портале Anti-Malware.ru