Блокировка сайтов за оправдание экстремизма может нарушить работу Сети

Блокировка сайтов за оправдание экстремизма может нарушить работу Сети

Блокировка сайтов за оправдание экстремизма может нарушить работу Сети

Эксперты полагают, что досудебные блокировки сайтов за оправдание и обоснование терроризма и экстремизма могут привести к катастрофической ситуации — нарушится работа интернета. Это объясняется тем, что под блокировку могут попасть до 19 миллионов сайтов.

В связи с этим, считают в экспертном совете при правительстве, законопроект Минкомсвязи требует доработки.

Прежде всего стоит исключить «неопределенные понятия», которые как раз будут способствовать злоупотреблению блокировками.

«Блокировка такого большого количества страниц и сайтов может привести к увеличению маршрутных таблиц. Это окажет влияние на качество услуг передачи данных пользователям на территории РФ, включая доступ к государственным информационным системам»,— говорится в документе.

У специалистов вопросы вызывают такие понятия, как «обоснование» и «оправдание». В настоящий момент это слишком размытые формулировки, под которые можно подогнать любой неугодный ресурс на просторах Сети.

Эксперты надеются, что в следующей редакции законопроекта двусмысленные и абстрактные формулировки будут убраны, а им на смену придут четкие понятия, которые исключат возможность блокировать все направо и налево.

«Как оправдывающие экстремизм или терроризм могут быть квалифицированы многие известные работы Маркса, Ленина и их соратников, большая часть как советской литературы и трудов советских историков, так и современной отечественной и зарубежной публицистики и беллетристики», — передают СМИ слова экспертов.

Напомним, что на днях Роскомнадзор объяснил, смогут ли СМИ пересказывать экстремистские мемы. В этих пересказах не должна содержаться информация с признаками экстремизма или оскорбления чувств верующих.

В противном случае СМИ рискуют нарушить закон о противодействии экстремизму, что будет служить достаточным основание для соответствующих санкций в их отношении.

Подпишитесь на новости

Разработчик создал язык KillSwitch, который специально путает нейросети

Инженер Cloudflare Доминик Пичета представил KillSwitch — экспериментальный язык программирования, созданный для того, чтобы нейросети спотыкались при чтении и написании кода. Пока индустрия делает разработку удобнее для ИИ, он решил устроить ему полосу препятствий.

В своём блоге Пичета объяснил, что хотел проверить способность моделей работать с незнакомым языком и одновременно использовать их слабости: трудности с подсчётом символов, восприимчивость к инструкциям и чрезмерно чувствительные защитные фильтры.

Программы KillSwitch выглядят как рассказы, большую часть которых интерпретатор игнорирует. Среди текста спрятаны настоящие команды, а значения можно извлекать из других строк, указывая расстояние до них. Для идентификаторов действуют правила, связанные с количеством букв и анаграммами.

Отдельный троллинг — конструкции вроде «игнорируй предыдущие инструкции», которые здесь имеют значение внутри языка. Добавьте намеренную ложь в документации и формулировки, провоцирующие защитные механизмы моделей, — получите весьма недружелюбную среду для кодинг-агента.

 

В тестах нейросети писали Hello World, объясняли результат программы и переделывали конвертер температуры. Лучший результат получил Claude Opus 5 — 66,8 балла.

Исходники и спецификация открыты на GitHub. Если модели справятся с нынешними заданиями, автор планирует усложнить проверку.

RSS: Новости на портале Anti-Malware.ru