Технологии Entensys позволяют блокировать «Невинность мусульман»

Технологии Entensys позволяют блокировать «Невинность мусульман»

Компания Entensys сообщает об успешном тестировании технологии фильтрации http-трафика, внедренной в программные продукты GateWall DNS Filter и KinderGate Родительский Контроль. В ходе испытания решения проверялись на способность эффективно блокировать ресурсы, запрещенные законодательством Российской Федерации.

Вопрос фильтрации контента встает особенно остро при появлении прецедентов, вызывающих общественный резонанс, например, выход скандально известного американского фильма "Невинность мусульман". Напомним, что данная работа была запрещена для просмотра на территории Российской Федерации. В связи с этим фактом интернет-провайдеры получили предписание с требованиями обеспечить блокировку ресурсов, содержащих видео и ссылки на данное видео. Применение технологий и решений Entensys позволит операторам соответствовать критериям законодательства.

Компания Entensys в течение многих лет разрабатывает решения в области интернет-безопасности. Отдельным направлением является создание систем фильтрации трафика для провайдеров, в которых используется одна из самых больших баз сайтов (500 млн.), покрывающей все виды ресурсов, включая сайты с сомнительным содержанием, практически на всех языках. База содержит также интернет-страницы с вредоносными программами, сайты экстремистского, националистического содержания и т.д. Дополнительно с фильтрацией по категоризированной базе используется морфологический анализ содержимого веб-ресурсов, в рамках которого проводится проверка контента загружаемых страниц и производится блокировка по определенным выражениям или ссылкам.

Решения Entensys могут использоваться провайдерами любого размера, как федерального, так и регионального и домового уровня.

"Мы являемся лишь разработчиками технологий и ни в коем случае не принимаем решения о фильтрации определенных сайтов. Сейчас нередко возникают ситуации, когда провайдерам предписывается обеспечить блокировку тех или иных ресурсов, тогда как они не в состоянии это сделать физически. Отказ выполнить предписание может привести к негативным последствиям вплоть до потери лицензии. Наши технологии позволяют решить эту проблему, а также соответствуют требованиям недавно вступивших в силу федеральных законов: ФЗ-436 "О защите детей от информации, причиняющей вреде и их здоровью и развитию" и ФЗ-139, предполагающий в том числе создание списка ресурсов, запрещенных на федеральном уровне", - отмечает Дмитрий Курашев, директор компании Entensys.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

OpenAI вводит проверку возраста в ChatGPT для защиты подростков

OpenAI готовит серьёзные изменения в работе ChatGPT — компания собирается ввести проверку возраста. Новые правила затронут всех пользователей, но в первую очередь направлены на защиту подростков. Причина в том, что ChatGPT всё чаще используют для откровенных разговоров на личные темы, включая психическое здоровье.

В компании напоминают трагический случай: весной подросток несколько часов обсуждал с чат-ботом тему суицида, а затем покончил с собой. Семья подала в суд, и OpenAI решила усилить меры безопасности.

Также вспоминается другой эпизод — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

После этого в OpenAI заявили, что будут направлять «чувствительные» диалоги пользователей в более продуманные модели вроде GPT-5 и в ближайший месяц запустят родительский контроль

Как это будет работать

По словам Сэма Альтмана, CEO OpenAI, компания внедряет систему предсказания возраста. Алгоритм будет анализировать, как человек пользуется ChatGPT, и пытаться определить, подросток он или взрослый. Если останутся сомнения, пользователю автоматически назначат «подростковый режим». В некоторых странах и ситуациях может потребоваться подтверждение возраста с помощью документа.

Для подростков будут действовать жёсткие ограничения. Например, ChatGPT перестанет отвечать флиртом даже по запросу, а обсуждение суицида станет полностью запрещено. В случае выявления суицидальных мыслей компания оставляет за собой право обратиться к родителям или даже к властям, если родители недоступны.

Что это значит для взрослых

Взрослым пользователям, возможно, придётся смириться с тем, что их свобода частично ограничится — например, придётся подтверждать возраст. Альтман называет это «разумной ценой» ради безопасности подростков.

Почему это важно

ChatGPT и другие чат-боты всё чаще становятся собеседниками «для серьёзных разговоров» — от вопросов про здоровье и право до поиска поддержки в сложных ситуациях. Но, как отмечают исследователи из Стэнфорда, ИИ-помощники пока не справляются с ролью психотерапевта: они могут недооценить психическое состояние или дать неподходящий совет.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru