Алгоритм ВКонтакте распознаёт мошенников и заносит их в чёрный список

Алгоритм ВКонтакте распознаёт мошенников и заносит их в чёрный список

Алгоритм ВКонтакте распознаёт мошенников и заносит их в чёрный список

Соцсеть будет выявлять пользователей с подозрительной активностью и сообщать об этом добропорядочным юзерам. Проверять аккаунты будут в новых чатах или переписке с незнакомцами.

«Мы разработали систему, которая эффективнее препятствует спаму и другому нежелательному контенту, — объясняет CEO «ВКонтакте» Марина Краснова. — С помощью алгоритмов можно с высокой вероятностью предсказать, кто стоит за аккаунтом: бот, мошенник или нормальный пользователь, — и в случае необходимости предупредить об опасности».

О том, что собеседник подозрителен, пользователя предупредит специальный баннер. 

Нажав на него, можно отправить жалобу и добавить потенциального мошенника в черный список. Чат или диалог удалят, чтобы обезопасить участников от опасных ссылок.

Функция пока работает только в мобильном приложении. Механика охватывает новые групповые чаты, в том числе созданные друзьями, а также переписки с теми, кого во «френдах» нет.

Напомним, до этого «ВКонтакте» стала предупреждать пользователей о нежелательных телефонных звонках.

Крупные игроки серьезно обеспокоены кибербезопасностью и теперь включают защиту данных в свои глобальные стратегии развития. Так, Ozon сегодня сообщил, что присоединился к Кодексу этики использования данных. Маркетплейс вошел в реестр добросовестных участников рынка.

Кодекс этики был разработан три года назад. Его придумали в Ассоциации больших данных и Институте развития интернета.

Документ определяет принципы обмена данными между компаниями, трансграничную передачу, правила хранения и обработки. В рамках этического кодекса ведется Белая книга лучших практик добросовестного использования данных.

Claude освободил 700 ГБ, удалив домашнюю папку разработчика

Разработчик Себастьен Гиймо поручил ИИ-агенту Claude написать скрипт для очистки временных файлов. Бот справился слишком эффективно: удалил домашний каталог пользователя вместе с 700 ГБ данных и результатами недельной работы, но предусмотрительно оставил папку /tmp, ради которой всё и затевалось.

Гиймо регулярно запускает ИИ-агентов, которые оставляют после себя множество временных файлов.

Он попросил модель Claude Fable создать отдельную песочницу для каждого агента в /tmp и очищать её после завершения работы, не затрагивая используемые данные.

Первая версия скрипта показалась разработчику слишком сложной. Из-за наличия команд безвозвратного удаления Claude запустил дополнительную проверку безопасности. Система Anthropic сочла задачу рискованной и автоматически понизила модель сначала до Opus 5, а затем до Opus 4.8.


Новая модель написала тест, который сравнивал цели удаления с /tmp и домашним каталогом пользователя. Обе директории были правильно признаны опасными. А затем начался этап очистки тестовых данных, и Claude повторно использовал ту же переменную, в которой находился путь к домашней папке.

Гиймо остановил процесс, но слишком поздно: агент успел удалить 700 ГБ. Большую часть информации разработчик восстановил из Git, конфигурации Nix, журналов сессий и других источников. Однако недельная работа всё же пострадала.

Разработчик предполагает, что автоматический переход на менее сильную модель мог повысить риск ошибки. Более производительная Fable 5, возможно, заметила бы конфликт переменных.

RSS: Новости на портале Anti-Malware.ru