Разговоры с чат-ботом Bard могут всплыть в поисковой выдаче Google

Разговоры с чат-ботом Bard могут всплыть в поисковой выдаче Google

Разговоры с чат-ботом Bard могут всплыть в поисковой выдаче Google

После недавнего обновления ИИ-системы Google Bard пользователи стали замечать, что поисковик техногиганта индексирует расшаренные диалоги с умным помощником и они таким образом попадают в паблик.

Запущенный в марте ИИ-сервис Bard позволяет подписчикам создавать ссылки, чтобы делиться чатами с коллегами, друзьями или родственниками. Как оказалось, поисковый робот Google может собирать такой контент, и он потом вместе с URL отображается как результаты поисковой выдачи.

Чтобы понять, насколько катастрофичен подобный слив, экспериментаторы вбили в строку поиска site:bard.google.com/share и убедились, что выводимую информацию далеко не всегда можно выставлять напоказ:

 

Публикацию клиентской переписки с ИИ-ботом в Google назвали случайностью и пообещали заблокировать индексацию таких материалов поисковиком. Проведенная сегодня проверка показала, что трюк с site:bard.google.com/share не работает.

Яндекс собрал единый антифрод: ботам и накрутчикам станет сложнее

Яндекс начал внедрять «Универсальный антифрод» — единую ИИ-платформу для борьбы с ботами, накрутками и другими видами цифрового мошенничества. Новая система позволяет подключить защиту к сервису за 2-4 дня. Раньше разработка отдельного решения могла занимать несколько месяцев.

К платформе уже подключены десятки сервисов Яндекса, включая Еду, Афишу, Путешествия и приложения с Алисой AI. Сценарии атак у них разные, но суть одна: мошенники пытаются обмануть алгоритмы и получить выгоду.

Например, в Афише система вычисляет ботов, которые массово бронируют билеты на популярные мероприятия. Так перекупщики создают искусственный дефицит, а затем выставляют билеты на других площадках — разумеется, уже с бодрой наценкой.

В Еде антифрод проверяет обращения в службу поддержки. Речь в том числе о случаях, когда злоумышленники многократно жалуются на один заказ в надежде получить компенсацию. После внедрения платформы сервис стал распознавать и блокировать такие обращения более чем в десять раз эффективнее.

В основе системы — нейросеть, аналитические методы и свыше 100 правил, описывающих основные классы атак. Платформа анализирует трафик в реальном времени и подбирает параметры защиты отдельно для каждого сервиса.

Главная фишка решения — централизованное обновление. Если Яндекс обнаружит новую мошенническую схему, защиту можно быстро распространить сразу на все подключённые продукты. Пока мошенники придумывают очередной хитрый план, антифрод уже готовится его испортить.

RSS: Новости на портале Anti-Malware.ru