Внедренный в Facebook модератор рассказал, как соцсеть нарушает закон

Внедренный в Facebook модератор рассказал, как соцсеть нарушает закон

Внедренный в Facebook модератор рассказал, как соцсеть нарушает закон

Британский журналист решил провести расследование, внедрившись в качестве модератора в социальную сеть Facebook. В итоге он отметил, что компания по-особенному относится к группам с ультраправыми политическими взглядами — практически наравне со страницами, принадлежащими правительствам и новостным организациям.

Таким образом, заявление журналиста идет вразрез в заявлениями Facebook о том, что соцсеть активно пытается бороться с фейковыми новостями, пропагандой, ненавистью и другим злонамеренным контентом.

Результаты расследования журналиста даже вышли в виде специального документального фильма под названием «Inside Facebook: Secrets of the Social Network» («Внутри Facebook: Секреты социальной сети»). Премьера этого фильма состоялась на британском канале Channel 4.

Помимо этого, журналист утверждает, что ему было дано указание игнорировать пользователей социальной платформы, которые выглядели младше 13 лет. Напомним, что 13 лет — минимальный по закону США возраст, который разрешает регистрацию в соцсети.

Автор расследования считает, что Facebook закрывает глаза на сомнительный контент, в числе которого откровенно ложные истории, по той причине, что он привлекает большее количество пользователей, что помогает увеличить доход от рекламы.

Facebook уже опубликовал длинный пост, упреждающий негативную реакцию в сторону компании. В своем официальном письме социальная платформа признает за собой ряд ошибок и благодарит журналиста из Великобритании за проведенное им расследование.

BI.ZONE Mail Security получила ИИ для анализа эмоций в письмах

В BI.ZONE Mail Security появилась новая ИИ-функциональность: система научилась анализировать эмоциональную окраску писем и использовать это для выявления атак. Обновление вошло в версию 2.11 и нацелено прежде всего на борьбу с фишингом и BEC-сценариями, замаскированными под обычную деловую переписку.

Новый ИИ-модуль оценивает тональность писем — позитивную, негативную или нейтральную — и параллельно ищет признаки манипулятивного воздействия.

Речь идёт о характерных приёмах социальной инженерии: давлении, апелляции к срочности, тревожной или ультимативной подаче. За счёт этого система может точнее понимать намерения отправителя и быстрее реагировать на письма, которые внешне выглядят легитимно, но на самом деле подталкивают получателя к рискованным действиям.

Как отмечают в BI.ZONE, злоумышленники всё чаще выдают себя за бухгалтерию, руководителей или подрядчиков и делают ставку не на вредоносные вложения, а на психологию. Поэтому задача защиты почты сегодня — не просто проверить ссылки и домены, а распознать контекст и скрытые попытки давления. Анализ эмоциональных и поведенческих паттернов позволяет лучше отделять реальные рабочие письма от фишинга и атак класса BEC.

Помимо ИИ-анализа, в версии 2.11 доработали и сопутствующую функциональность. Появилась автоматическая синхронизация списка разрешённых получателей с Active Directory, что упрощает администрирование и снижает риск ошибок в настройках. Для защиты учётных записей добавили двухфакторную аутентификацию по TOTP и механизм принудительной смены паролей по истечении срока их действия.

Обновили и сценарии реагирования на подозрительные письма. Теперь можно включать предупреждения для сообщений от внешних отправителей и добавлять кнопку жалобы прямо в тело письма. Если на сообщение пожаловался один сотрудник, система повышает риск-рейтинг отправителя и блокирует его письма только для этого пользователя.

При массовых жалобах блокировка применяется уже на уровне всей организации. При этом учитываются и обратные ситуации: если письма разрешают или массово помечают отправителя как доверенного, риск-рейтинг автоматически снижается — индивидуально или глобально.

В новой версии также усилили фильтрацию поддельных писем: улучшили проверку DMARC для защиты от подмены доменов. Для onprem-установок упростили обновление — теперь перейти на актуальную версию можно напрямую через инсталлятор. Журнал сообщений стал более подробным: в нём отображается рейтинг письма на каждом этапе проверки и детальная информация по SMTP-анализу. Кроме того, администраторам дали возможность вручную обучать модель категоризации писем через веб-интерфейс.

В итоге BI.ZONE Mail Security 2.11 делает акцент не столько на «громкие» вредоносные письма, сколько на тихие, психологически выверенные атаки — именно те, которые сегодня всё чаще проходят под видом обычной корпоративной переписки.

RSS: Новости на портале Anti-Malware.ru