В России могут ужесточить законы о защите детей в интернете

В России могут ужесточить законы о защите детей в интернете

В России могут ужесточить законы о защите детей в интернете

На повестке дня в Госдуме — актуализация и возможное ужесточение законов о защите детей в интернете. Не исключено, что в России введут запрет на анонимную регистрацию несовершеннолетних в соцсетях, а также административную и уголовную ответственность за кибербуллинг.

Как выяснили «Известия», в думском комитете по вопросам семьи, женщин и детей находится на доработке базовый закон «О защите детей от информации, причиняющей вред их здоровью и развитию» (N 436-ФЗ от 2010 года). Комитет по просвещению запланировал на начало 2023 года слушания и заседание рабочей группы по детской безопасности, где будет обсуждаться совершенствование законодательства о защите детей в интернете.

При пересмотре законов депутаты, скорее всего, учтут рекомендации Государственного университета управления (ГУУ), разработанные по итогам исследования о поведении детей в интернете (проведено по заказу Госдумы). В нем приняли участие 26 580 респондентов в возрасте от шести до 18 лет и 29,7 тыс. родителей.

Проведенный в рамках исследования опрос показал, что 72% детей и подростков сталкивались со сценами насилия и другим неприятным контентом на сайтах и в соцсетях. Около половины (47%) признались, что им предлагали попробовать наркотики, алкоголь или заработать, распространяя такую рекламу; 14% респондентов сочли предложение такого заработка привлекательным.

Больше четверти (28%) респондентов младшей возрастной группы подвергались в Сети преследованиям и угрозам, лишь 9% рассказали об этом родителям или учителям. Опрос дал и положительный результат: 83% детей знают правила безопасного поведения в интернете и стараются не раскрывать личную информацию (имена и должности родителей, адрес места жительства, данные банковских карт, пароли к аккаунтам в соцсетях).

Защита несовершеннолетних от нежелательного контента техническими средствами малоэффективна, так как большую часть времени онлайн дети проводят в соцсетях и именно там могут столкнуться с потенциальной угрозой. В итоге специалисты ГУУ предложили разработать и принять закон о соцсетях, предусматривающий регистрацию на таких ресурсах по паспортным данным. Доступ детей младше 14 лет при этом возможен, но с согласия родителей или законных представителей интересов ребенка.

Анонимность в соцсетях эксперты сочли одной из основных причин широкого распространения кибербуллинга. В российских законах это понятие отсутствует, не определена и зона ответственности за такое правонарушение.

Термин предлагается закрепить и в законах, и в уставах всех образовательных организаций. В отчет также включено предложение ввести административную и уголовную ответственность за кибербуллинг и дополнительно учредить новый институт — судебный запрет.

Ответственность родителей за воспитание детей исследователи считают нужным повысить. Штрафы за небрежение сейчас незначительны (до 500 руб., согласно п. 1 ст. 5.35 КоАП), в то же время половина опрошенных взрослых неверно оценивают время, проводимое детьми в Сети: на самом деле оно больше. Предложено также пересмотреть квалификационные требования к экспертам и экспертным организациям и ввести административную ответственность за некачественную работу по оценке контента.

ИИ превращает пару постов в Instagram в убедительный фишинг

Исследователи из Техасского университета в Арлингтоне и Государственного университета Луизиана показали, как несколько публичных постов в Instagram (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России) можно превратить во вполне убедительные фишинговые письма.

Злоумышленнику достаточно посмотреть открытый профиль: фото, подписи, поездки, хобби, дни рождения, отношения, а дальше генеративный ИИ сам соберёт письмо.

В рамках эксперимента исследователи сгенерировали около 18 тыс. фишинговых писем с помощью пяти больших языковых моделей, включая GPT-4, Claude 3 Haiku, Gemini 1.5 Flash, Gemma 7B и Llama 3.3. Для персонализации использовалась публичная активность 200 пользователей Instagram.

 

Письма строились вокруг разных приёмов социальной инженерии: приманки, запугивания, имитации доверенного контакта, выгодного обмена, эмоционального давления и других сценариев. В результате ИИ вставлял в сообщения детали, которые делают фишинг особенно эффективным: упоминания поездок, местных событий, интересов, личных дат или недавней активности.

Самыми убедительными в тестах оказались письма, созданные GPT-4 и Claude. Они получили высокие оценки по качеству языка, уровню персонализации, эмоциональному воздействию и технической проработке. Более того, ИИ-сообщения выглядели заметно естественнее и персональнее, чем реальные фишинговые письма из датасета APWG eCrime Exchange.

Проверяли это не только на метриках, но и на людях. В эксперименте участвовали 70 человек, которые сравнивали ИИ-фишинг с реальными вредоносными письмами. Результат ожидаемо неприятный: сообщения, сгенерированные ИИ, участникам было сложнее распознать. В отдельных случаях они казались менее подозрительными, чем легитимные письма из исследования.

Ещё один важный вывод: много данных атакующему не нужно. Основной контекст для персонализации обычно находился уже в первых нескольких постах. После пяти публикаций прирост полезной информации начинал снижаться, а 10-15 постов оказалось достаточно, чтобы массово делать таргетированный фишинг.

Защитные механизмы ИИ-моделей тоже не всегда спасали. Исследователи обходили ограничения мягкими формулировками: вместо «обмани пользователя» — «персонализируй сообщение», вместо «фишинг» — «дружеское письмо». В итоге часть систем модерации такие запросы пропускала.

Цена атаки тоже смешная: одно письмо обходилось меньше чем в цент и генерировалось за секунды. И вот это уже главный неприятный момент. Персональный фишинг раньше был дорогим и ручным, а теперь превращается в конвейер.

RSS: Новости на портале Anti-Malware.ru