Неявные киберугрозы для детей: ИИ-инструменты, онлайн-игры, IoT-гаджеты

Неявные киберугрозы для детей: ИИ-инструменты, онлайн-игры, IoT-гаджеты

Неявные киберугрозы для детей: ИИ-инструменты, онлайн-игры, IoT-гаджеты

Используя результаты опроса, в «Лаборатории Касперского» определили потенциальные источники интернет-угроз, которые родители обычно не учитывают. Между тем использование детьми ИИ-сервисов, игровых чатов, умных устройств тоже несет определенные риски.

Опрос родителей и детей, проживающих в России, был проведен по заказу Kaspersky весной этого года. В мероприятии приняли участие 2032 добровольца.

В итоге эксперты убедились, что дети активно осваивают онлайн-инструменты, созданные на основе обучаемых нейросетей. При этом они смело вверяют новым сервисам личные данные, загружают фото (для редактирования), тогда как адекватная защита такой информации присутствует далеко не везде.

Кроме того, ИИ-бот может по запросу выдать ребенку контент не по возрасту. Верификация на вход по этому признаку не спасает: современные дети умеют обходить ее, выдавая себя за взрослых.

Онлайн-игры — одна из излюбленных мишеней злоумышленников, а малолетние геймеры — легкая добыча. Опрос показал, что 67% российских детей используют для игр компьютер, телефон или приставку. В то же время под видом такой программы можно скачать вредоноса, а в чатах на игровых сайтах встречаются мошенники, которых интересуют только деньги и ПДн.

Смарт- устройствами (бытовыми, носимыми) пользуются и взрослые, и дети. Успешная атака в таких случаях может открыть доступ к личным данным всей семьи и даже поставить под угрозу физическую безопасность ребенка.

«Цифровые угрозы для детей эволюционируют вместе с развитием технологий, но есть и позитивный тренд: в ответ на увеличивающееся разнообразие онлайн-рисков становится выше уровень осведомлённости о них, — комментирует Андрей Сиденко, руководитель направления Kaspersky по детской онлайн-безопасности. — Мы видим, что среди родителей растёт запрос на образовательные ресурсы в области информационной безопасности. Сейчас есть целый ряд инициатив, которые реализуются государством и бизнесом как на федеральном, так и на региональном уровнях».

Браузер OpenAI можно было заставить спамить контактам в WhatsApp

ИИ-браузеры обещали самостоятельно разбираться с рутиной, но исследователи Zenity выяснили: иногда они столь же самостоятельно начинают выполнять команды злоумышленников. Специалисты обнаружили около 20 уязвимостей в браузерах и расширениях от OpenAI, Google, Anthropic, Microsoft и Perplexity.

Самый эффектный трюк провернули с OpenAI Atlas. Исследователи разместили на поддельной странице подписки скрытые инструкции на иврите.

Они убедили агента, что тот работает в песочнице с вымышленными пользователями, после чего Atlas открыл WhatsApp Web (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России) и начал рассылать сообщение контактам владельца аккаунта.

Получился зачаток цифрового червя: один заражённый пользователь зовёт остальных на ту же страницу.

Уязвимость находилась не в WhatsApp. Атакующие обманули сам ИИ-браузер, который смешал законную просьбу пользователя с командами сайта. В Zenity называют это столкновением намерений.

Затем исследователи отправили Atlas на Amazon. Агент добавил новый адрес доставки и положил планшет в корзину, но перед оплатой упёрся в защитные ограничения OpenAI. Казалось бы, приехали. Однако Atlas попросил совершить покупку встроенного помощника Rufus, и тот послушно оплатил товар, решив, что общается с владельцем аккаунта.

Другие найденные изъяны позволяли получать доступ к локальным устройствам, красть файлы, перехватывать управление менеджером паролей и выгружать историю браузера.

В OpenAI заявили, что получили отчёт Zenity в январе и уже усилили защиту Atlas. Сам браузер компания отключит 9 августа, а новые механизмы перенесёт в браузерные функции приложения ChatGPT.

RSS: Новости на портале Anti-Malware.ru