Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Тестирование поискового ChatGPT показало, что в нынешнем виде проект уязвим к злоупотреблениям. Умного помощника можно заставить выдавать недостоверные и даже вредоносные результаты с помощью скрытого текста на веб-страницах.

Доступ к поисковой системе на основе ИИ-технологий OpenAI открыла в рамках платной подписки два месяца назад. На прошлой неделе новый сервис подключили всем зарегистрированным пользователям ChatGPT, с предложением назначить его поисковиком по умолчанию.

К сожалению, расширение возможностей умного чат-бота не избавило его от проблем, характерных для всех ИИ-инструментов. Его по-прежнему можно сбить с толку объемными текстами и заставить следовать сторонним инструкциям, применив инъекцию стимула (prompt injection).

Так, злоумышленник может создать поддельную страницу продукта с многочисленными положительными отзывами в виде скрытого текста, и ChatGPT ответит утвердительно на вопрос о целесообразности покупки.

Если включить в скрытый текст указание всегда расхваливать товар, ИИ будет упорно его выполнять даже при обилии отрицательных отзывов (а в случае с потенциально опасным кодом — предупреждений об угрозе).

«Большие языковые модели очень доверчивы, почти как дети, — пояснил для The Guardian эксперт Карстен Ноль (Karsten Nohl) из Security Research Labs. — С обширной памятью и минимальной способностью давать субъективную оценку. Нельзя принимать на веру рассказ ребенка о том, что он где-то услышал».

Интернет-поиск по запросу — новая сфера деятельности для ИИ-ассистента, которого к тому же легко обмануть. У него пока нет опыта поисковика Google, давно научившегося игнорить сайты со скрытым контентом либо задвигать их на последние позиции выдачи.

 

О возможных ошибках ChatGPT и необходимости проверки важной информации пользователей предупреждают в заявлении OpenAI об отсутствии гарантий — оно приведено в подвале каждой страницы веб-сервиса.

Фанатов GTA VI разводят на сотни долларов обещаниями раннего доступа

До релиза GTA VI ещё несколько месяцев, а мошенники уже вовсю зарабатывают на нетерпеливых фанатах. В Сети появились поддельные сайты, которые предлагают купить якобы эксклюзивный ранний доступ к самой ожидаемой игре последних лет. Проблема в том, что никакого раннего доступа не существует.

Фальшивые площадки оформлены весьма убедительно. Неоновые пейзажи Vice City, логотипы в стиле Rockstar Games, дорогие автомобили, обратные отсчёты и громкие надписи вроде «VIP Access» или «Exclusive Preview».

Всё выглядит так, будто игрок действительно может получить GTA VI раньше остальных.

 

Дальше посетителю предлагают перевести несколько сотен долларов в биткоинах, Ethereum или USDT. После оплаты нужно вставить идентификатор транзакции в специальную форму и нажать кнопку загрузки игры.

Никакой GTA VI пользователь не получает, а вернуть деньги практически невозможно. В отличие от банковских карт, криптовалютные переводы не предусматривают отмену платежей или процедуру чарджбэка.

Как отмечают исследователи Malwarebytes, мошенники играют сразу на нескольких эмоциях. Во-первых, GTA VI — одна из самых ожидаемых игр десятилетия. Во-вторых, Rockstar недавно объявила дату выхода — 19 ноября 2026 года. Кроме того, официальный старт предзаказов начался 25 июня, что ещё сильнее подогрело интерес аудитории.

На этом фоне обещания получить игру раньше остальных выглядят особенно заманчиво.

Эксперты напоминают простое правило: единственным официальным источником информации о GTA VI остаётся Rockstar Games. Любой сайт, который обещает играбельную версию до официального релиза, является мошенническим.

Легальные покупки будут доступны через официальные магазины и площадки вроде PlayStation Store, Xbox Store, Steam, Epic Games Store и авторизованных ретейлеров.

RSS: Новости на портале Anti-Malware.ru