Яндекс отчитался о 77 тыс. помеченных треков для детской безопасности

Яндекс отчитался о 77 тыс. помеченных треков для детской безопасности

Яндекс отчитался о 77 тыс. помеченных треков для детской безопасности

Яндекс опубликовал отчёт о том, как его сервисы защищают детей от нежелательного контента. В документе описаны технические меры, фильтры и образовательные инициативы. Также на сайте компании появился специальный раздел, посвящённый детской безопасности.

Защита в интернете

Для детских аккаунтов в Яндекс ID автоматически включается семейный режим. Он фильтрует результаты поиска, скрывает нежелательные ссылки в браузере, а также ограничивает доступ к взрослому контенту в Кинопоиске и Яндекс Музыке. В 2024 году таких аккаунтов стало 1,7 миллиона — на 50% больше, чем год назад.

Семейный режим скрывает сайты с порнографией и чувствительными темами. По данным компании, к концу 2024 года он был включён у 2,1 миллиона пользователей.

Яндекс входит в состав Альянса по защите детей в цифровой среде. Участники Альянса работают над тем, чтобы интернет-среда была более безопасной для подростков и школьников.

Чтобы выявлять потенциально опасный контент, Яндекс применяет компьютерное зрение и языковые модели. По заявлению компании, фильтры в Поиске срабатывают в 99,9% случаев.

Контент

На Кинопоиске детям показываются фильмы и мультфильмы, подходящие по возрасту. Родители могут создавать отдельные профили и устанавливать пин-код, чтобы ребёнок не мог сам выйти из детского режима. В 2024 году детский контент смотрела треть всей аудитории сервиса.

В Яндекс Музыке треки и подкасты проверяются автоматически, а затем вручную. Материалы с нецензурной лексикой получают специальную пометку — такие записи не воспроизводятся в детских аккаунтах. С апреля 2024 по март 2025 года таким образом было помечено почти 77 тысяч аудиофайлов.

Образование

Чтобы школьники знали, как вести себя в интернете, Яндекс запустил курс «Безопасность в интернете» для младших классов. Он рассказывает, как не попасть на уловки мошенников и зачем быть осторожными с личной информацией. Курс прошли около 5 тысяч детей.

Для учеников 7–9 классов сделали отдельный квест по кибербезопасности. В нём есть теория и практические задания. Квест доступен всем, и его уже прошли более 6 тысяч школьников.

Городские сервисы

В Яндекс Такси к перевозке детей допускаются водители с опытом, хорошими оценками и отзывами. Некоторые проходят дополнительное обучение — например, как закреплять детское кресло и что делать, если ребёнок ведёт себя беспокойно.

В сервисе аренды самокатов Яндекс Go действует возрастное ограничение — от 18 лет. Если несовершеннолетний пытается арендовать самокат, доступ блокируется. В 2024 году такие ограничения были применены к 22 тысячам аккаунтов.

WhatsApp заставит каналы признаваться в использовании ИИ

Сгенерировал картинку — повесь табличку. WhatsApp (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России) разрабатывает функцию, с помощью которой администраторы каналов смогут помечать публикации с ИИ-контентом.

Функция, судя по всему, связана с новыми требованиями ЕС к прозрачности материалов, созданных искусственным интеллектом. Нововведение заметили специалисты WABetaInfo в свежей бета-версии мессенджера для Android.

На экране с описанием нововведения WhatsApp прямо предупреждает: администраторы каналов в некоторых странах обязаны маркировать обновления, в которых используется ИИ-контент.

Работать всё будет так: после публикации администратор сможет зажать сообщение, открыть контекстное меню и выбрать пункт «Добавить метку ИИ-контента».

 

На сообщении появится заметная маркировка, сообщающая подписчикам, что медиаматериал создан или отредактирован с помощью искусственного интеллекта. Не исключено, что убрать такую метку после добавления уже не получится.

Маркировать придётся не всё подряд. В нынешнем описании ИИ-контентом называются изображения, видео и другие медиаматериалы, созданные либо изменённые нейросетевыми инструментами. На сгенерированные тексты требование, по имеющимся данным, не распространяется. Так что нейросеть всё ещё сможет писать посты инкогнито.

Пока функция существует только в тестовой сборке WhatsApp для Android и недоступна обычным пользователям. Версия для iOS и более широкий запуск, вероятно, последуют позднее.

Остаётся главный вопрос: появится ли маркировка по всему миру или только в странах, где её требует законодательство.

RSS: Новости на портале Anti-Malware.ru