Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор в скором времени может запустить усовершенствованную систему поиска незаконного контента в Сети, в основу которой ляжет искусственный интеллект (ИИ). Система, получившая имя «Окулус», должна повысить эффективность обнаружения экстремистских и порнографических материалов в изображениях и видео.

Разработкой «Окулус» будет заниматься Главный радиочастотный центр (ГРЧЦ), который в настоящее время подведомственен РКН. Эксперты же опасаются, что введение систему в эксплуатацию может замедлить работу веб-ресурсов.

Согласно информации, которую сотрудники издания «КоммерсантЪ» нашли на портале госзакупок, «Окулус» планируют запустить в 2022 году. Стоимость опубликованного ГРЧЦ тендера на разработку технического задания составила 15 миллионов рублей.

Системе доверят задачу выявления следующего контента: пропаганда наркотиков, порнография, экстремистские материалы, призывы к самоубийству и массовым беспорядкам. Ранее этот поиск в изображениях и видеозаписях происходил вручную, а в следующем году этим уже будет заниматься «Окулус». Ожидается, что работы завершат до 17 декабря.

Аналитики считают, что контент в текстовом виде значительно уступает фото- и видеоматериалам по воздействию на сознание пользователей Сети. Поэтому «Окулус» будет решать проблему постинга противоправных изображений и видеозаписей, которые могут потенциально навредить подросткам.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Фишинг-сервис Darcula получил ИИ-апгрейд

Исследователи из Netcraft обнаружили, что теневой сервис Darcula, облегчающий проведение фишинговых атак на владельцев Android-устройств и iPhone, теперь также предлагает возможность использования ИИ.

За год стараниями экспертов было закрыто более 25 тыс. сайтов-ловушек, заблокировано около 31 тыс. IP-адресов и выявлено свыше 90 тыс. фишинговых доменов, ассоциированных с Darcula. Реализация поддержки ИИ обострила противостояние и требует адекватных ответных мер.

Возможность применения ИИ снижает планку для неискушенных преступников и позволяет создавать уникальные исходные коды. В настоящее время криминальный PhaaS (Phishing-as-a-Service, «фишинг как услуга») предлагает подписчикам следующие опции:

  • генеративный ИИ для создания фишинговых форм и автоперевода на разные языки;
  • клонирование любых страниц по вводу URL оригинала;
  • GUI-интерфейс для быстрого запуска фишинговых кампаний;
  • параллельная работа с различными брендами и языками;
  • обход сигнатурного анализа за счет уникальности фишинг-паков.

Ранее пользователи Darcula довольствовались набором из 200+ фишинговых шаблонов и на их основе могли создавать фальшивки, нацеленные на организации из 100 стран. Теперь злоумышленникам предоставлена возможность придумывать собственные варианты, притом безо всяких ограничений.

«Подобная кастомизация позволяет проводить атаки на нишевые и региональные бренды, которые ранее выпадали из поля зрения фиш-паков, — подчеркивают исследователи. — А возможность создания фишинговых страниц без статичного набора шаблонов снижает эффективность традиционных, сигнатурных методов обнаружения. Чтобы быть на шаг впереди, организациям нужны более динамичные, основанные на поведении средства анализа»».

 

Напомним, владеющие китайским языком создатели Darcula запустили еще один сервис для фишеров — Lucid, который уже используется для проведения атак — с результативностью 5% вместо обычных 2%. Подписчикам тоже предоставляется возможность рассылок через Android RCS и iMessage, так как мошеннические СМС обычно отсеиваются на спам-фильтрах.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru