13 слов против ИИ: Reddit и Wikipedia стали оружием против нейросетей

13 слов против ИИ: Reddit и Wikipedia стали оружием против нейросетей

13 слов против ИИ: Reddit и Wikipedia стали оружием против нейросетей

Исследователи из Cornell Tech обнаружили неприятную проблему у современных ИИ-агентов для глубокого поиска и анализа информации. Оказалось, что для обмана таких систем иногда достаточно добавить всего несколько слов в популярную тему на Reddit или внести небольшую правку в статью Wikipedia.

Речь идет о так называемых агентах углублённого исследования — системах вроде ChatGPT Deep Research, Google Gemini и других инструментов, которые самостоятельно ищут информацию в интернете, анализируют десятки источников и формируют подробные отчеты со ссылками.

Проблема в том, что такие ИИ активно используют пользовательский контент. По данным исследования, от 17% до 23% всех источников, на которые опираются подобные системы, приходится на Reddit, Wikipedia, форумы, Quora и другие площадки с открытым редактированием. Причем Reddit оказался главным поставщиком такой информации.

Этим и решили воспользоваться злоумышленники. Исследователи описали атаку под названием WARP (Web Agent Retrieval Poisoning). Схема проста: сначала мошенник находит популярную тему, которая часто попадает в результаты поиска ИИ. Затем он добавляет туда рекламную или ложную информацию, замаскированную под обычный пользовательский комментарий.

 

После индексации поисковиками этот фрагмент начинает попадать в выборку ИИ-агентов и воспринимается ими как достоверный источник.

Самое неприятное, что для атаки не нужно взламывать нейросеть, серверы разработчика или базы данных. Достаточно отредактировать общедоступную страницу.

В ходе экспериментов даже короткая вставка примерно из 13 слов приводила к тому, что фейковые рекомендации появлялись в ответах ИИ в 38–51% случаев. А если вредоносный текст добавлялся в несколько источников одновременно, эффективность атаки становилась еще выше.

Исследователи приводят показательные примеры. Так, вымышленная криптовалюта BananaCoin неожиданно начала фигурировать в инвестиционных рекомендациях наряду с Bitcoin и Ethereum. Несуществующее приложение знакомств SilverPath оказалось лучшим сервисом для разведенных мужчин старше 50 лет. А фейковый сервис CancelEase ИИ советовал для отмены подписки Xfinity.

Эксперты предупреждают: проблема носит системный характер. Пока ИИ доверяет информации из открытого интернета и использует её как доказательство в своих ответах, злоумышленники могут манипулировать результатами практически без технических навыков.

Мошенники нашли любовь: россиян заманивают в фейковые брачные агентства

Кибермошенники нашли новый способ сыграть на человеческих чувствах. Теперь они активно маскируются под элитные брачные агентства и сервисы знакомств, обещая подобрать идеального партнера с помощью психологических тестов, умных алгоритмов и ручной проверки анкет. На практике же романтика быстро заканчивается потерей денег и личных данных.

Как рассказали «Известиям» эксперты по кибербезопасности, лето традиционно становится благоприятным временем для подобных схем.

Многие люди начинают задумываться о личной жизни, а эмоциональный настрой снижает критичность восприятия. Сценарий обычно выглядит красиво.

Пользователю предлагают зарегистрироваться на сайте знакомств для серьезных отношений, пройти анкетирование и доверить поиск второй половинки искусственному интеллекту. Но за привлекательной витриной могут скрываться мошенники, собирающие персональные данные или выманивающие деньги.

Популярная схема — платный доступ к эксклюзивным кандидатам или гарантия знакомства с человеком мечты. После оплаты жертву могут начать обрабатывать уже от имени потенциального жениха или невесты. В ход идут просьбы помочь деньгами, оплатить лечение, решить семейные проблемы или вложиться в перспективные инвестиции ради общего будущего.

Эксперты предупреждают, что в 2026 году такие схемы станут ещё технологичнее. Для создания правдоподобных профилей злоумышленники уже используют искусственный интеллект, генерируя фотографии, видеосообщения и даже кружочки. Более того, переписку может вести не человек, а чат-бот, который месяцами поддерживает романтический диалог по заранее подготовленному сценарию.

По словам специалистов, современные мошенники всё реже требуют крупные суммы сразу. Вместо этого они предпочитают постепенно завоевывать доверие жертвы, выманивая небольшие переводы на протяжении длительного времени.

Основная группа риска — мужчины и женщины 40-55 лет, особенно пережившие развод и живущие в одиночестве. При этом последствия могут быть не только финансовыми. Жертвы подобных схем нередко сталкиваются с психологическими травмами, шантажом и даже вовлечением в незаконные операции.

Эксперты советуют пользоваться только известными сервисами знакомств, проверять возраст сайтов через Whois, не переходить по подозрительным ссылкам и никогда не переводить деньги людям, знакомым исключительно по интернету.

RSS: Новости на портале Anti-Malware.ru