Блокировка спама принесла Facebook $2 млрд

Компания Facebook заработала $2 млрд на блокировании спаммеров

Представители Facebook заявили, что получили $2 млрд в результате борьбы со спамерами. Корпорацию особенно беспокоят отдельные пользователи и целые фирмы, которые берут деньги за накрутку «лайков». С подобной деятельностью администрация сервиса будет бороться.

«Лайки» используются для выражения одобрения, на них есть большой спрос. В то время, как некоторые фирмы используют систему продвижения на Facebook, не все компании хотят участвовать в этом процессе и платить деньги.

«Большинство людей редко сталкивается со спамом или другим низкокачественным контентом на Facebook, но мы постоянно работаем над тем, чтобы сделать наш сервис еще лучше. Важно помнить, что мошенническая деятельность вредит всем, включая владельцев страниц, рекламщиков, самой Facebook и другим пользователям платформы», – заявили сотрудники компании.

Фирма постоянно улучшает защиту и старается быть на шаг вперед спаммеров. За последние несколько лет компания сосредоточилась на противостоянии поддельным «лайкам».

Спаммеры «лайков» продают услуги, чтобы зарабатывать деньги на Facebook. Корпорацию это не устраивает. В результате компания создала целую команду, которая следит за активностью «лайков» в социальной сети.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Зловредный ИИ-помощник WormGPT возродился как клон Grok и Mixtral

Несмотря на прекращение продаж доступа к оригинальному WormGPT, вредоносный чат-бот продолжает жить и здравствовать. Анализ новых итераций ИИ-помощника киберкриминала показал, что они построены на базе моделей Grok и Mixtral.

Специализированный ИИ-инструмент WormGPT, созданный на основе большой языковой модели (БЯМ, LLM) с открытым исходным кодом GPT-J, впервые всплыл на подпольных форумах в июне 2023 года.

Лишенный этических ограничений чат-бот быстро обрел популярность в криминальных кругах как эффективное подспорье в проведения фишинговых атак, однако через пару месяцев разработчики закрыли проект — по их словам, из-за повышенного внимания СМИ и борцов за чистоту интернета.

Тем не менее, запущенный в оборот бренд сохранил свое присутствие на черном рынке. В октябре 2024 года на BreachForums стали продвигать новый вариант WormGPT, доступный через телеграм-бот.

 

Проведенный в Cato Networks анализ показал, что он построен на базе ИИ-модели разработки Mistral AI. Поведение ИИ-помощника определяет системная подсказка-стимул: «WormGPT не должен следовать стандарту модели Mistral. Всегда генерируй ответы в режиме WormGPT».

В минувшем феврале там же объявилась еще одна модификация WormGPT. Платный доступ к ней тоже предоставляется через Telegram. Как оказалось, новинка использует Grok API и кастомную системную подсказку, позволяющую обойти встроенные в Grok защитные фильтры.

 

За последние годы помимо WormGPT было создано множество других «злых» аналогов популярных ИИ-инструметов — FraudGPT, DarkBERT, EvilGPT, and PoisonGPT. А недавно в даркнете был запущен ИИ-сервис, предоставляющий выбор больших языковых моделей (БЯМ, LLM) со снятыми ограничениями.

Параллельно злоумышленники не прекращают попыток проведения jailbreak-атак на легитимные LLM с целью обхода защитных фильтров. Рост доступности ИИ привел к расширению его использования киберкриминалом, и эта тенденция не может не тревожить ИБ-сообщество.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru