Разговоры с чат-ботом Bard могут всплыть в поисковой выдаче Google

Разговоры с чат-ботом Bard могут всплыть в поисковой выдаче Google

Разговоры с чат-ботом Bard могут всплыть в поисковой выдаче Google

После недавнего обновления ИИ-системы Google Bard пользователи стали замечать, что поисковик техногиганта индексирует расшаренные диалоги с умным помощником и они таким образом попадают в паблик.

Запущенный в марте ИИ-сервис Bard позволяет подписчикам создавать ссылки, чтобы делиться чатами с коллегами, друзьями или родственниками. Как оказалось, поисковый робот Google может собирать такой контент, и он потом вместе с URL отображается как результаты поисковой выдачи.

Чтобы понять, насколько катастрофичен подобный слив, экспериментаторы вбили в строку поиска site:bard.google.com/share и убедились, что выводимую информацию далеко не всегда можно выставлять напоказ:

 

Публикацию клиентской переписки с ИИ-ботом в Google назвали случайностью и пообещали заблокировать индексацию таких материалов поисковиком. Проведенная сегодня проверка показала, что трюк с site:bard.google.com/share не работает.

Подпишитесь на новости

Binance раскрыла, как фальшивое собеседование помогло украсть $6,3 млрд

Предложение работы, разговор с подставным гендиректором и тестовое задание с вредоносным кодом — так началась цепочка атаки на Binance, из которой вывели $6,3 млрд. Биржа раскрыла новые детали: злоумышленники месяцами готовили многоэтапную операцию, совмещая социальную инженерию, заражение устройств и ИИ.

Подробности опубликованного 3 ноября отчёта Binance приводит Bloomberg.

С одним из инженеров связался через платформу поиска работы человек, представившийся руководителем проекта. Затем сотрудник прошёл собеседование в мессенджере с якобы главой компании.

Компании в действительности не существовало, зато предложенный для тестового задания репозиторий содержал вполне настоящий вредоносный код. По словам сопредседателя Binance Ричарда Тенга, сводить случившееся к одной ошибке сотрудника нельзя.

Атакующие использовали поддельные интервью, вредоносную программу под видом инструментов разработчика, скомпрометированные устройства и ИИ. Конкретную роль искусственного интеллекта в приведённом описании не раскрывают.

Об атаке стало известно 29 октября. Сначала биржа сообщила о возможном взломе ноутбука инженера, позднее обнаружила дополнительные точки проникновения. Binance и ФБР связывают кражу с северокорейскими хакерами; КНДР обвинения отвергает.

После инцидента партнёры помогли заморозить почти $3 млрд. Это ещё не означает возврат денег. Сама Binance заявляет, что почти восполнила украденные активы за счёт корпоративных средств и двух страховых фондов. Вывод средств, приостановленный почти на двое суток, начали поэтапно восстанавливать в воскресенье.

RSS: Новости на портале Anti-Malware.ru