Неявные киберугрозы для детей: ИИ-инструменты, онлайн-игры, IoT-гаджеты

Неявные киберугрозы для детей: ИИ-инструменты, онлайн-игры, IoT-гаджеты

Неявные киберугрозы для детей: ИИ-инструменты, онлайн-игры, IoT-гаджеты

Используя результаты опроса, в «Лаборатории Касперского» определили потенциальные источники интернет-угроз, которые родители обычно не учитывают. Между тем использование детьми ИИ-сервисов, игровых чатов, умных устройств тоже несет определенные риски.

Опрос родителей и детей, проживающих в России, был проведен по заказу Kaspersky весной этого года. В мероприятии приняли участие 2032 добровольца.

В итоге эксперты убедились, что дети активно осваивают онлайн-инструменты, созданные на основе обучаемых нейросетей. При этом они смело вверяют новым сервисам личные данные, загружают фото (для редактирования), тогда как адекватная защита такой информации присутствует далеко не везде.

Кроме того, ИИ-бот может по запросу выдать ребенку контент не по возрасту. Верификация на вход по этому признаку не спасает: современные дети умеют обходить ее, выдавая себя за взрослых.

Онлайн-игры — одна из излюбленных мишеней злоумышленников, а малолетние геймеры — легкая добыча. Опрос показал, что 67% российских детей используют для игр компьютер, телефон или приставку. В то же время под видом такой программы можно скачать вредоноса, а в чатах на игровых сайтах встречаются мошенники, которых интересуют только деньги и ПДн.

Смарт- устройствами (бытовыми, носимыми) пользуются и взрослые, и дети. Успешная атака в таких случаях может открыть доступ к личным данным всей семьи и даже поставить под угрозу физическую безопасность ребенка.

«Цифровые угрозы для детей эволюционируют вместе с развитием технологий, но есть и позитивный тренд: в ответ на увеличивающееся разнообразие онлайн-рисков становится выше уровень осведомлённости о них, — комментирует Андрей Сиденко, руководитель направления Kaspersky по детской онлайн-безопасности. — Мы видим, что среди родителей растёт запрос на образовательные ресурсы в области информационной безопасности. Сейчас есть целый ряд инициатив, которые реализуются государством и бизнесом как на федеральном, так и на региональном уровнях».

Бигтех в России просит открыть обезличенные данные граждан для обучения ИИ

Российскому ИИ не хватает данных, а закон, по мнению бигтеха, держит их под замком. Ассоциация больших данных, в которую входят «Авито», «Сбер», «Ростелеком», «Яндекс», HH и VK, попросила Минцифры упростить использование обезличенной персональной информации для разработки и обучения нейросетей.

Сейчас любое алгоритмическое преобразование персональных данных считается обезличиванием.

Даже если технология практически исключает возможность установить личность человека, полученный массив всё равно остаётся персональными данными со всеми сопутствующими ограничениями. Защита вроде бы сработала, а юридический хвост никуда не делся.

АБД, по данным КоммерсантЪ, предлагает выделить технологии повышения приватности — Privacy Enhancing Technologies, или PETs — в отдельную категорию. Они позволяют обрабатывать, передавать и хранить информацию без раскрытия личности. Если риск идентификации равен нулю или составляет малые доли процента, такие данные предлагается использовать для ИИ без согласия граждан.

Обработка при этом должна проходить в России, российскими компаниями и только для разработки, обучения и применения ИИ. Кроме того, ассоциация предлагает ввести доверенных посредников — аккредитованные организации, которые будут хранить обезличенные массивы и предоставлять к ним доступ. Данные также хотят разделить на бесплатные, необходимые для исполнения закона, и платные — для коммерческих задач.

Участники рынка объясняют инициативу просто: российских датасетов мало, а большая их часть заперта внутри крупных экосистем. Собственные и партнёрские массивы уже не закрывают аппетиты современных моделей, особенно специализированных корпоративных решений.

Альтернативой остаются синтетические данные — искусственно созданные наборы без сведений о реальных людях. Но полностью заменить ими отраслевую статистику, поведенческие закономерности и другие ценные выборки получится не всегда.

Теперь мяч у Минцифры, которое на обращение пока не ответило. Бигтех тем временем даёт понять: без свежих данных российский ИИ далеко не уедет, сколько вычислительных мощностей ему ни подбрасывай.

RSS: Новости на портале Anti-Malware.ru