Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Тестирование поискового ChatGPT показало, что в нынешнем виде проект уязвим к злоупотреблениям. Умного помощника можно заставить выдавать недостоверные и даже вредоносные результаты с помощью скрытого текста на веб-страницах.

Доступ к поисковой системе на основе ИИ-технологий OpenAI открыла в рамках платной подписки два месяца назад. На прошлой неделе новый сервис подключили всем зарегистрированным пользователям ChatGPT, с предложением назначить его поисковиком по умолчанию.

К сожалению, расширение возможностей умного чат-бота не избавило его от проблем, характерных для всех ИИ-инструментов. Его по-прежнему можно сбить с толку объемными текстами и заставить следовать сторонним инструкциям, применив инъекцию стимула (prompt injection).

Так, злоумышленник может создать поддельную страницу продукта с многочисленными положительными отзывами в виде скрытого текста, и ChatGPT ответит утвердительно на вопрос о целесообразности покупки.

Если включить в скрытый текст указание всегда расхваливать товар, ИИ будет упорно его выполнять даже при обилии отрицательных отзывов (а в случае с потенциально опасным кодом — предупреждений об угрозе).

«Большие языковые модели очень доверчивы, почти как дети, — пояснил для The Guardian эксперт Карстен Ноль (Karsten Nohl) из Security Research Labs. — С обширной памятью и минимальной способностью давать субъективную оценку. Нельзя принимать на веру рассказ ребенка о том, что он где-то услышал».

Интернет-поиск по запросу — новая сфера деятельности для ИИ-ассистента, которого к тому же легко обмануть. У него пока нет опыта поисковика Google, давно научившегося игнорить сайты со скрытым контентом либо задвигать их на последние позиции выдачи.

 

О возможных ошибках ChatGPT и необходимости проверки важной информации пользователей предупреждают в заявлении OpenAI об отсутствии гарантий — оно приведено в подвале каждой страницы веб-сервиса.

ИИ проредил HR-отделы: на одну вакансию претендуют до 19 человек

Российский рынок труда для HR-специалистов за последнее время стал неоправданно сложным. С начала 2026 года соискатели разместили более 520 тыс. резюме, тогда как работодатели опубликовали лишь 66 тыс. предложений. По данным hh.ru, на отдельные позиции приходится до 19 анкет.

В июне доля вакансий для кадровиков упала на 34% год к году, а количество резюме выросло на 17%. По оценкам участников рынка, за последние полтора года работу потерял примерно каждый третий сотрудник кадровой сферы.

Но сваливать всё на нейросети было бы слишком удобно. Компании заодно сокращают управленческие подразделения на фоне охлаждения деловой активности.

ИИ лишь подливает масла: цифровые инструменты уже используют более трети работодателей, а объём рекрутерской рутины благодаря им может сокращаться до 80%.

Алгоритмы анализируют резюме, проводят первичные интервью и выдают структурированные результаты. Наём ускоряется примерно вдвое, поэтому бизнес закономерно спрашивает: зачем держать целый отдел?

Полностью списывать кадровиков пока рано. ИИ способен отсеять сильного кандидата или выбрать идеальное резюме, за которым ничего нет.

В цене останутся специалисты, умеющие работать с нейросетями, данными и живыми людьми. А вот массовый скрининг и шаблонные звонки кандидатам машина уже забирает себе.

RSS: Новости на портале Anti-Malware.ru