Бесплатный шрифт ShieldFont научился защищать сайты от сбора данных для ИИ

Бесплатный шрифт ShieldFont научился защищать сайты от сбора данных для ИИ

Бесплатный шрифт ShieldFont научился защищать сайты от сбора данных для ИИ

Публикация текста в интернете теперь означает не только встречу с читателями, но и незваный визит ИИ-ботов, которые могут утащить материал в обучающий датасет. Просьбу не заходить через robots.txt они соблюдают не всегда, поэтому создатели ShieldFont решили действовать хитрее: пустить скрейперы внутрь и подсунуть им убедительную чепуху.

Бесплатный шрифт разработали бразильское агентство Seneda & Abrucio и датская студия Playtype.

В браузере человек видит исходный текст, а бот при анализе кода получает другую версию. Для этого ShieldFont использует механизм замены глифов OpenType, но меняет не отдельные символы, а целые слова.

Подмена происходит не хаотично. Существительные заменяются существительными, глаголы прошедшего времени — такими же глаголами, а множественное число сохраняется. Словарь разделён на 250 групп с учётом частей речи и смысловых признаков. В результате шрифт переставляет примерно четверть слов, сохраняя грамматически приличный вид текста.

 

Это нужно, чтобы отравленная версия не вылетела из обучающего набора на первом же фильтре качества. Разработчики проверили её с помощью FineWeb-Edu: около 10% фрагментов, признанных качественными до защиты, прошли отбор и после неё. Текст оставался достаточно связным для сохранения, но уже врал по существу. В 55,8% протестированных отрывков факты не совпадали с оригиналом.

Непробиваемым щитом ShieldFont всё же не стал. Если сделать скриншот страницы и распознать надписи через OCR, исходный текст можно восстановить. Есть и проблема посерьёзнее: скринридеры для незрячих тоже считывают подменённые слова. Разработчики добавили бета-функцию для передачи им оригинального текста, но вопрос доступности пока полностью не закрыт.

Сейчас ShieldFont работает только с английским языком и бесплатно доступен на GitHub.

Минцифры придумало единый пульт для отзыва персональных данных россиян

Минцифры предложило создать единую платформу для управления согласиями на обработку персональных данных. Все 2,6 млн операторов должны будут передавать туда сведения, а граждане получат одно окно, где можно увидеть, кому и когда они разрешили работать со своими данными, а при необходимости — отозвать согласие.

Идея вошла в обсуждаемую версию третьего пакета антифрод-мер. Правда, гладко она выглядит только на презентации. Центробанк и Минэкономразвития уже выступили против запуска платформы в нынешнем виде.

В ЦБ считают, что сначала необходимо создать полноценный информационный ресурс и проверить его работу, а уже потом вводить обязанности для бизнеса. Иначе компании получат не защиту от мошенников, а новую порцию правовой неопределённости.

Минэкономразвития тоже предлагает не спешить. Сейчас платформа проходит добровольную апробацию лишь в отдельных отраслях. Перед обязательным внедрением ведомство призывает изучить итоги эксперимента, учесть специфику разных сфер и оценить, потянет ли нововведение малый бизнес.

Участники рынка, по данным «Коммерсанта», настроены ещё мрачнее. В Ассоциации больших данных предупреждают: подключение к ЕСИА с высокими требованиями к защите информации доступно крупным компаниям, но для небольших организаций может стать неподъёмным. Передача миллиардов записей потребует огромных расходов на инфраструктуру и одновременно создаст новую жирную цель для утечек.

Есть и технический квест. Сопоставить внутренние аккаунты компаний с профилями на «Госуслугах» без обязательной аутентификации через ЕСИА почти невозможно. А бумажные согласия трёх-пятилетней давности нельзя просто загрузить в систему из-за отсутствия нужных метаданных. Если заставить клиентов подтверждать их заново, сервисы рискуют захлебнуться в пуш-уведомлениях.

Эксперты предлагают переходный период продолжительностью 12-18 месяцев и поэтапное внедрение. В Минцифры пока подчёркивают, что пакет только обсуждается.

RSS: Новости на портале Anti-Malware.ru