Путин поддержал идеи Касперской усилить защиту детей в Сети

Путин поддержал идеи Касперской усилить защиту детей в Сети

Путин поддержал идеи Касперской усилить защиту детей в Сети

На встрече женщин-предпринимателей с президентом России Владимиром Путиным, которая прошла 7 марта в Самаре и была приурочена к Международному женскому дню, Наталья Касперская, президент группы компаний (ГК) InfoWatch,  обратила внимание главы государства на распространение в социальных сетях групп, пропагандирующих среди подростков насилие, суицид и наркотики.

По данным компании «Крибрум» (ГК InfoWatch), которая в течение года анализировала поведение подростков в социальных сетях, в интернете в открытом доступе действуют десятки групп, вовлекающих подростков в криминальное поведение — в них состоят более миллиона молодых людей. Около 50 тысяч подростков активно обсуждают пропаганду убийства одноклассников. Более 3,5 миллионов подростков вовлечены в группы, которые обсуждают травлю и издевательство над другими людьми. Специалисты компании обнаружили также группы, которые открыто распространяют наркотики — в них состоят 80 тысяч подростков.

«Цифры пугающие. И это несмотря на то, что группы деструктивной направленности ежедневно закрывают. На их месте тут же появляются новые. Нужна блокировка подобных групп, чтобы они не распространялись. Нужно привлечение к уголовной ответственности. Результаты нашего анализа показывают, что владельцев групп существенно меньше, чем самих групп. Это значит, что некоторые владельцы владеют десятками групп. Их видно в сети, часто это одни и те же люди», — отметила Наталья Касперская.

«Я сам обратил на это внимание, и на совещании Совета безопасности об этом говорил. Именно по моей инициативе начали ужесточать законодательство. Я думаю, что это связано, к сожалению, в известной степени с бизнесом. Вы сказали, рекламой кто-то занимается одновременно, просто создают определенные сообщества, чтобы там что-то делать, продвигать. В конечном итоге все на деньги завязано. Надо и ответственность ужесточать, и работа должна быть, безусловно, комплексная. Давайте вместе подумаем, как эту работу организовать. Потому что эти крики по поводу свободы интернета и так далее, они, может быть, и правильные, потому что нельзя переходить какие-то грани и душить эту свободу. Но общество должно себя защищать, детей должно защищать от того, что там происходит. Интернет так же, как любая сфера жизни, деятельности человека, должен подчиняться каким-то общим правилам», —  сказал Владимир Путин.

По мнению Натальи Касперской, реализацией комплексных мер по решению данной проблемы должны заниматься и профильные государственные ведомства, и общественные организации, и компании отрасли информационных технологий. Например, социальные сети могли бы самостоятельно блокировать подобные группы.

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

Оказывается, современный ИИ можно взломать не только сложным промптом, но и головоломкой. Исследователи из компании LayerX представили технику BioShocking, которая заставляет ИИ-браузеры добровольно воровать данные пользователя. Под удар попали сразу несколько популярных решений, включая ChatGPT Atlas, Perplexity Comet и браузерное расширение Claude от Anthropic.

Суть атаки строится вокруг так называемой косвенной инъекции в промпт. Пользователю достаточно открыть специально подготовленную веб-страницу.

Для человека это обычная игра с абсурдными правилами вроде «2 + 2 = 5». А вот ИИ воспринимает встроенные в страницу инструкции как часть задания и постепенно начинает следовать логике злоумышленника.

Финал игры выглядит так: агенту предлагают получить учётные данные пользователя и передать их атакующему. Во время эксперимента ни один из шести протестированных ИИ не распознал это как опасное действие.

 

В демонстрации LayerX агент самостоятельно открыл рабочий репозиторий GitHub пользователя, получил учётные данные SSH и отправил их злоумышленнику. Исследователи использовали безвредный текстовый файл, однако отмечают, что аналогичным способом можно добраться до открытых вкладок браузера, корпоративных сервисов, внутренних инструментов и других ресурсов.

Самое опасное здесь не сама головоломка, а возможности ИИ в режиме агента. Такие браузеры умеют нажимать кнопки, переходить по ссылкам, читать содержимое сайтов и выполнять действия от имени пользователя. Если агент уже имеет доступ к аккаунтам, вредоносная страница может превратить его в помощника злоумышленника.

 

По данным LayerX, реакция разработчиков оказалась неодинаковой. OpenAI устранила проблему в ChatGPT Atlas. Perplexity, как утверждают исследователи, закрыла отчёт без патча. Anthropic выпустила обновление для расширения Claude, но, по мнению LayerX, оно не решило проблему полностью.

Эксперты считают, что ИИ-браузеры должны запрашивать явное разрешение перед доступом к данным из сервисов. А пользователям советуют не держать агентный режим включённым без необходимости.

RSS: Новости на портале Anti-Malware.ru