20% пользователей уже сталкивались с последствиями социальных рейтингов

20% пользователей уже сталкивались с последствиями социальных рейтингов

20% пользователей уже сталкивались с последствиями социальных рейтингов

Мы привыкли размещать информацию в соцсетях без оглядки на то, как она может повлиять на наше взаимодействие с миром. Тем временем последствия так называемого «социального рейтинга» уже успел ощутить на себе каждый пятый опрошенный «Лабораторией Касперского» человек.

Согласно результатам глобального опроса, 18% пользователей во всём мире хотя бы раз сталкивались с проблемами доступа к финансовым услугами из-за размещённой в социальных сетях информации. Из этой группы 32% составили молодые люди от 25 до 34 лет.

21% респондентов заявили «Лаборатории Касперского», что уже сталкивались с «социальным рейтингом», который выстраивается на основе поведения человека в Сети, его круга общения и прочих данных.

Такая система позволяет оценить, стоит ли предоставлять конкретному пользователю ту или иную услугу. Чтобы вынести вердикт, специальные алгоритмы обрабатывают массу общедоступных данных, размещённых гражданином в социальных сетях.

По данным «Лаборатории Касперского», большинство (57%) пользователей сталкиваются с социальным рейтингом при получении финансовых услуг, с проблемами страхования — 40%, здравоохранения — тоже 40%, а во время совершения онлайн-покупок — 48% опрошенных.

Нашлись и те, кто готов за скидки предоставить доступ к своему аккаунту в социальной сети (67% респондентов). Чтобы получить вакансию, открыть учётную запись готовы 62% пользователей.

Эксперты обращают внимание на шаткость подобных рейтингов. По крайней мере, неопределённость наблюдается сегодня: мало кто представляет, как работают эти метрики. Кроме того, сами алгоритмы могут быть уязвимы перед различными манипуляциями.

С помощью конкретных атак можно несправедливо повысить или занизить рейтинг, предупреждают в «Лаборатории Касперского».

Claude освободил 700 ГБ, удалив домашнюю папку разработчика

Разработчик Себастьен Гиймо поручил ИИ-агенту Claude написать скрипт для очистки временных файлов. Бот справился слишком эффективно: удалил домашний каталог пользователя вместе с 700 ГБ данных и результатами недельной работы, но предусмотрительно оставил папку /tmp, ради которой всё и затевалось.

Гиймо регулярно запускает ИИ-агентов, которые оставляют после себя множество временных файлов.

Он попросил модель Claude Fable создать отдельную песочницу для каждого агента в /tmp и очищать её после завершения работы, не затрагивая используемые данные.

Первая версия скрипта показалась разработчику слишком сложной. Из-за наличия команд безвозвратного удаления Claude запустил дополнительную проверку безопасности. Система Anthropic сочла задачу рискованной и автоматически понизила модель сначала до Opus 5, а затем до Opus 4.8.


Новая модель написала тест, который сравнивал цели удаления с /tmp и домашним каталогом пользователя. Обе директории были правильно признаны опасными. А затем начался этап очистки тестовых данных, и Claude повторно использовал ту же переменную, в которой находился путь к домашней папке.

Гиймо остановил процесс, но слишком поздно: агент успел удалить 700 ГБ. Большую часть информации разработчик восстановил из Git, конфигурации Nix, журналов сессий и других источников. Однако недельная работа всё же пострадала.

Разработчик предполагает, что автоматический переход на менее сильную модель мог повысить риск ошибки. Более производительная Fable 5, возможно, заметила бы конфликт переменных.

RSS: Новости на портале Anti-Malware.ru