Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Тестирование поискового ChatGPT показало, что в нынешнем виде проект уязвим к злоупотреблениям. Умного помощника можно заставить выдавать недостоверные и даже вредоносные результаты с помощью скрытого текста на веб-страницах.

Доступ к поисковой системе на основе ИИ-технологий OpenAI открыла в рамках платной подписки два месяца назад. На прошлой неделе новый сервис подключили всем зарегистрированным пользователям ChatGPT, с предложением назначить его поисковиком по умолчанию.

К сожалению, расширение возможностей умного чат-бота не избавило его от проблем, характерных для всех ИИ-инструментов. Его по-прежнему можно сбить с толку объемными текстами и заставить следовать сторонним инструкциям, применив инъекцию стимула (prompt injection).

Так, злоумышленник может создать поддельную страницу продукта с многочисленными положительными отзывами в виде скрытого текста, и ChatGPT ответит утвердительно на вопрос о целесообразности покупки.

Если включить в скрытый текст указание всегда расхваливать товар, ИИ будет упорно его выполнять даже при обилии отрицательных отзывов (а в случае с потенциально опасным кодом — предупреждений об угрозе).

«Большие языковые модели очень доверчивы, почти как дети, — пояснил для The Guardian эксперт Карстен Ноль (Karsten Nohl) из Security Research Labs. — С обширной памятью и минимальной способностью давать субъективную оценку. Нельзя принимать на веру рассказ ребенка о том, что он где-то услышал».

Интернет-поиск по запросу — новая сфера деятельности для ИИ-ассистента, которого к тому же легко обмануть. У него пока нет опыта поисковика Google, давно научившегося игнорить сайты со скрытым контентом либо задвигать их на последние позиции выдачи.

 

О возможных ошибках ChatGPT и необходимости проверки важной информации пользователей предупреждают в заявлении OpenAI об отсутствии гарантий — оно приведено в подвале каждой страницы веб-сервиса.

Dr.Web CureIt! получил платную Pro-версию, будет стоить от 10 рублей в день

Компания «Доктор Веб» представила новый продукт — Dr.Web CureIt! Pro. Это расширенная версия известной утилиты Dr.Web CureIt!, предназначенной для разовой проверки и лечения зараженных компьютеров. Изменения затронули подход к развитию продукта.

Бесплатная версия утилиты сохранится, но будет ориентирована на максимально простой сценарий использования: скачать, запустить проверку и устранить обнаруженные угрозы без дополнительных настроек.

Расширенные функции теперь вынесены в отдельную редакцию Dr.Web CureIt! Pro. В ней доступны более гибкие параметры сканирования, настройка исключений, ручной выбор действий для обнаруженных угроз и расширенная статистика проверки.

До 30 июня 2026 года пользователи могут протестировать новую версию бесплатно. Для этого достаточно оформить получение обычного Dr.Web CureIt! через официальный сайт компании — вместе со ссылкой на скачивание будет предоставлена лицензия на один день для Pro-версии.

С 1 июля модель распространения изменится. Бесплатный Dr.Web CureIt! останется доступным для скачивания, а использование Dr.Web CureIt! Pro станет платным. Стоимость составит 10 рублей за сутки работы, 50 рублей за пять дней или 100 рублей за десять дней.

Одновременно компания продолжает развивать и саму бесплатную утилиту. Ранее в Dr.Web CureIt! появилась возможность проверять файлы и каталоги, которые вредоносные программы специально добавляют в исключения антивирусов.

Такая техника нередко используется современными зловредами для обхода защитных механизмов. После заражения вредоносная программа может самостоятельно изменить настройки безопасности системы и исключить собственные файлы из проверки. В результате пользователь видит работающий антивирус, но часть опасных объектов остается вне зоны его внимания.

Новая функция позволяет обнаруживать подобные скрытые объекты даже в тех случаях, когда вредоносный инструмент попытался замаскироваться через систему исключений.

Таким образом, Dr.Web CureIt! теперь развивается по двум направлениям: бесплатная версия остается инструментом для быстрого лечения заражённого компьютера, а расширенные возможности анализа и настройки переходят в отдельный платный продукт.

RSS: Новости на портале Anti-Malware.ru