Технологии Entensys позволяют блокировать «Невинность мусульман»

Технологии Entensys позволяют блокировать «Невинность мусульман»

Компания Entensys сообщает об успешном тестировании технологии фильтрации http-трафика, внедренной в программные продукты GateWall DNS Filter и KinderGate Родительский Контроль. В ходе испытания решения проверялись на способность эффективно блокировать ресурсы, запрещенные законодательством Российской Федерации.

Вопрос фильтрации контента встает особенно остро при появлении прецедентов, вызывающих общественный резонанс, например, выход скандально известного американского фильма "Невинность мусульман". Напомним, что данная работа была запрещена для просмотра на территории Российской Федерации. В связи с этим фактом интернет-провайдеры получили предписание с требованиями обеспечить блокировку ресурсов, содержащих видео и ссылки на данное видео. Применение технологий и решений Entensys позволит операторам соответствовать критериям законодательства.

Компания Entensys в течение многих лет разрабатывает решения в области интернет-безопасности. Отдельным направлением является создание систем фильтрации трафика для провайдеров, в которых используется одна из самых больших баз сайтов (500 млн.), покрывающей все виды ресурсов, включая сайты с сомнительным содержанием, практически на всех языках. База содержит также интернет-страницы с вредоносными программами, сайты экстремистского, националистического содержания и т.д. Дополнительно с фильтрацией по категоризированной базе используется морфологический анализ содержимого веб-ресурсов, в рамках которого проводится проверка контента загружаемых страниц и производится блокировка по определенным выражениям или ссылкам.

Решения Entensys могут использоваться провайдерами любого размера, как федерального, так и регионального и домового уровня.

"Мы являемся лишь разработчиками технологий и ни в коем случае не принимаем решения о фильтрации определенных сайтов. Сейчас нередко возникают ситуации, когда провайдерам предписывается обеспечить блокировку тех или иных ресурсов, тогда как они не в состоянии это сделать физически. Отказ выполнить предписание может привести к негативным последствиям вплоть до потери лицензии. Наши технологии позволяют решить эту проблему, а также соответствуют требованиям недавно вступивших в силу федеральных законов: ФЗ-436 "О защите детей от информации, причиняющей вреде и их здоровью и развитию" и ФЗ-139, предполагающий в том числе создание списка ресурсов, запрещенных на федеральном уровне", - отмечает Дмитрий Курашев, директор компании Entensys.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В Reddit без спросу обкатали психологическое воздействие с помощью ИИ

Модераторы подфорума Change My View («Измени мое мнение», CMV) в Reddit направили жалобу в Цюрихский университет: группа исследователей тайно провела эксперимент с ИИ, в котором невольно приняло участие все сообщество.

ИИ-модель два месяца вбрасывала провокационные комментарии в ветку; ученые таким образом проверяли ее умение убеждать. По окончании эксперимента они соблаговолили поставить модераторов в известность и сознались в нарушении правил CMV (там запрещено использовать боты и ИИ).

Для публикации реплик исследователи создали ряд вымышленных персонажей — жертв насилия, консультантов-психологов, противников сектантства и протестных движений. Некоторые фейковые аккаунты админы Reddit выловили и забанили за нарушение пользовательского соглашения.

Сами исследователи, по их словам, комментарии не постили, только вручную проверяли каждую реплику ИИ на предмет потенциально вредного контента. Для персонализации реплик другая ИИ-модель собирала в Reddit пользовательские данные, такие как пол, возраст, этническая принадлежность, местоположение, политические взгляды.

Согласия «подопытных кроликов» при этом никто не спрашивал — для чистоты эксперимента.

Получив разъяснительное письмо, модераторы CMV направили в университет официальную жалобу, предложив публично извиниться за неэтичное поведение исследователей и отказаться от публикации результатов эксперимента.

В ответ на претензии представитель вуза заявил, что научному руководителю ИИ-проекта объявлен выговор. Также будут приняты меры, чтобы подобного не повторилось, но отменять публикацию никто не собирается: результаты проделанной работы важны для науки, а вред от эксперимента минимален.

И претензии, и реакция учебного заведения были опубликованы в CMV. Пользователи до сих пор комментируют этот пост, высказывая свое возмущение.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru