Европейцы смогут скрывать свои личные данные от поисковиков

Европейцы смогут скрывать свои личные данные от поисковиков

Компания Google запустит для жителей стран Европы новый сервис, который позволит по запросу удалять из результатов поиска веб-страницы, касающиеся личной жизни пользователей. Об этом сообщает BBC News. Корпорации пришлось пойти на такой шаг из-за решения Европейского суда.

Инстанция постановила, что ссылки на устаревшие или неактуальные личные данные по запросу должны удаляться с серверов. В интервью Financial Times исполнительный директор Google Ларри Пейдж заявил, что компания выполнит решение высшей судебной инстанции Евросоюза, но предупредил, что это может навредить инновациям и сыграет на руку авторитарным режимам, подавляющим свободу слова, пишет uinc.ru.

Пейдж признался, что сожалеет, что не участвовал в европейской дискуссии о защите персональных данных, и пообещал, что его компания теперь попытается быть более ориентированной на Европу. Накануне стало известно, что немецкие законодатели рассматривают вопрос о создании так называемых «киберсудов», которые будут решать споры между пользователями и поисковиками.

В министерстве считают, что принятие решений по таким конфликтам не следует «ставить в зависимость от алгоритма Google» - автоматизированного процесса удаления данных. По мнению немецкого МВД, это может создать ситуацию, когда политики и знаменитости сделают невозможным обнаружение контента, который они считают неприемлемым, даже если эта информация была опубликована в общественных интересах.

После решения Европейского суда, принятого 16 мая, Google пообещал разработать механизм для удаления данных из результатов поисковой выдачи в течение ближайших недель. В корпорации пояснили, что выполнение требований суда ЕС является сложным процессом и требует тщательного изучения, в том числе из-за большого количества языков, для которых может потребоваться новый механизм. В то же время в Google выразили разочарование вердиктом, узаконившим «право быть забытым». 

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

Оказывается, современный ИИ можно взломать не только сложным промптом, но и головоломкой. Исследователи из компании LayerX представили технику BioShocking, которая заставляет ИИ-браузеры добровольно воровать данные пользователя. Под удар попали сразу несколько популярных решений, включая ChatGPT Atlas, Perplexity Comet и браузерное расширение Claude от Anthropic.

Суть атаки строится вокруг так называемой косвенной инъекции в промпт. Пользователю достаточно открыть специально подготовленную веб-страницу.

Для человека это обычная игра с абсурдными правилами вроде «2 + 2 = 5». А вот ИИ воспринимает встроенные в страницу инструкции как часть задания и постепенно начинает следовать логике злоумышленника.

Финал игры выглядит так: агенту предлагают получить учётные данные пользователя и передать их атакующему. Во время эксперимента ни один из шести протестированных ИИ не распознал это как опасное действие.

 

В демонстрации LayerX агент самостоятельно открыл рабочий репозиторий GitHub пользователя, получил учётные данные SSH и отправил их злоумышленнику. Исследователи использовали безвредный текстовый файл, однако отмечают, что аналогичным способом можно добраться до открытых вкладок браузера, корпоративных сервисов, внутренних инструментов и других ресурсов.

Самое опасное здесь не сама головоломка, а возможности ИИ в режиме агента. Такие браузеры умеют нажимать кнопки, переходить по ссылкам, читать содержимое сайтов и выполнять действия от имени пользователя. Если агент уже имеет доступ к аккаунтам, вредоносная страница может превратить его в помощника злоумышленника.

 

По данным LayerX, реакция разработчиков оказалась неодинаковой. OpenAI устранила проблему в ChatGPT Atlas. Perplexity, как утверждают исследователи, закрыла отчёт без патча. Anthropic выпустила обновление для расширения Claude, но, по мнению LayerX, оно не решило проблему полностью.

Эксперты считают, что ИИ-браузеры должны запрашивать явное разрешение перед доступом к данным из сервисов. А пользователям советуют не держать агентный режим включённым без необходимости.

RSS: Новости на портале Anti-Malware.ru