Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Тестирование поискового ChatGPT показало, что в нынешнем виде проект уязвим к злоупотреблениям. Умного помощника можно заставить выдавать недостоверные и даже вредоносные результаты с помощью скрытого текста на веб-страницах.

Доступ к поисковой системе на основе ИИ-технологий OpenAI открыла в рамках платной подписки два месяца назад. На прошлой неделе новый сервис подключили всем зарегистрированным пользователям ChatGPT, с предложением назначить его поисковиком по умолчанию.

К сожалению, расширение возможностей умного чат-бота не избавило его от проблем, характерных для всех ИИ-инструментов. Его по-прежнему можно сбить с толку объемными текстами и заставить следовать сторонним инструкциям, применив инъекцию стимула (prompt injection).

Так, злоумышленник может создать поддельную страницу продукта с многочисленными положительными отзывами в виде скрытого текста, и ChatGPT ответит утвердительно на вопрос о целесообразности покупки.

Если включить в скрытый текст указание всегда расхваливать товар, ИИ будет упорно его выполнять даже при обилии отрицательных отзывов (а в случае с потенциально опасным кодом — предупреждений об угрозе).

«Большие языковые модели очень доверчивы, почти как дети, — пояснил для The Guardian эксперт Карстен Ноль (Karsten Nohl) из Security Research Labs. — С обширной памятью и минимальной способностью давать субъективную оценку. Нельзя принимать на веру рассказ ребенка о том, что он где-то услышал».

Интернет-поиск по запросу — новая сфера деятельности для ИИ-ассистента, которого к тому же легко обмануть. У него пока нет опыта поисковика Google, давно научившегося игнорить сайты со скрытым контентом либо задвигать их на последние позиции выдачи.

 

О возможных ошибках ChatGPT и необходимости проверки важной информации пользователей предупреждают в заявлении OpenAI об отсутствии гарантий — оно приведено в подвале каждой страницы веб-сервиса.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

61% россиян столкнулись с телефонным мошенничеством в III квартале 2025-го

По данным сервиса Kaspersky Who Calls, в третьем квартале 2025 года 61% российских пользователей получили хотя бы один подозрительный звонок. Это почти на 22% больше, чем за тот же период прошлого года. Об этом сообщили представители «Лаборатории Касперского» на форуме «Финополис 2025».

Эксперты отмечают, что телефонные мошенники в этом году стали действовать изощрённее.

Всё чаще жертву заставляют саму позвонить злоумышленникам. Сначала человеку приходит сообщение — в мессенджере, на почту или даже через всплывающее уведомление на фейковом сайте — будто кто-то пытается войти в его аккаунт. Чтобы «защитить» данные, предлагают срочно связаться со службой поддержки по указанному номеру.

Дальше — стандартная схема: во время звонка у жертвы выманивают одноразовый код или другую конфиденциальную информацию.

Главный эксперт «Лаборатории Касперского» Сергей Голованов говорит, что схемы телефонного мошенничества становятся всё более разнообразными:

«Злоумышленники могут не только звонить, но и отправлять вредоносные приложения под видом легальных. Часто используют знакомые легенды — звонки от “службы безопасности”, коммунальных служб, курьеров или “поддержки” онлайн-сервисов. Бывают и сезонные трюки — например, сообщения о доставке цветов или о поступлении в вуз».

Чтобы не попасться на уловки, специалисты советуют:

  • Не передавайте никому пароли, коды из СМС и пуш-уведомлений.
  • Сразу кладите трубку, если разговор кажется подозрительным.
  • Не перезванивайте на номера из странных сообщений.
  • Поставьте определитель номера — он предупредит, если звонок идёт с телефона, на который уже жаловались другие пользователи.

Мошенники становятся всё изобретательнее, но простая бдительность и базовые меры защиты по-прежнему помогают сохранить деньги и нервы.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru