Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Выдачей ИИ-поиска можно манипулировать с помощью скрытого контента

Тестирование поискового ChatGPT показало, что в нынешнем виде проект уязвим к злоупотреблениям. Умного помощника можно заставить выдавать недостоверные и даже вредоносные результаты с помощью скрытого текста на веб-страницах.

Доступ к поисковой системе на основе ИИ-технологий OpenAI открыла в рамках платной подписки два месяца назад. На прошлой неделе новый сервис подключили всем зарегистрированным пользователям ChatGPT, с предложением назначить его поисковиком по умолчанию.

К сожалению, расширение возможностей умного чат-бота не избавило его от проблем, характерных для всех ИИ-инструментов. Его по-прежнему можно сбить с толку объемными текстами и заставить следовать сторонним инструкциям, применив инъекцию стимула (prompt injection).

Так, злоумышленник может создать поддельную страницу продукта с многочисленными положительными отзывами в виде скрытого текста, и ChatGPT ответит утвердительно на вопрос о целесообразности покупки.

Если включить в скрытый текст указание всегда расхваливать товар, ИИ будет упорно его выполнять даже при обилии отрицательных отзывов (а в случае с потенциально опасным кодом — предупреждений об угрозе).

«Большие языковые модели очень доверчивы, почти как дети, — пояснил для The Guardian эксперт Карстен Ноль (Karsten Nohl) из Security Research Labs. — С обширной памятью и минимальной способностью давать субъективную оценку. Нельзя принимать на веру рассказ ребенка о том, что он где-то услышал».

Интернет-поиск по запросу — новая сфера деятельности для ИИ-ассистента, которого к тому же легко обмануть. У него пока нет опыта поисковика Google, давно научившегося игнорить сайты со скрытым контентом либо задвигать их на последние позиции выдачи.

 

О возможных ошибках ChatGPT и необходимости проверки важной информации пользователей предупреждают в заявлении OpenAI об отсутствии гарантий — оно приведено в подвале каждой страницы веб-сервиса.

Чистая прибыль Группы Астра выросла на 67% и достигла 1,1 млрд руб.

«Группа Астра» отчиталась по МСФО за первое полугодие 2026 года. Скорректированная чистая прибыль компании выросла на 96% год к году и достигла 1,2 млрд рублей. Обычная чистая прибыль прибавила 67% — до 1,1 млрд рублей. Выручка увеличилась на 17%, до 7,8 млрд рублей, а отгрузки — на 27%, до 7,3 млрд.

Главным двигателем стал II квартал: выручка подскочила на 47%, до 5,1 млрд рублей, отгрузки — на 42%, до 5,4 млрд.

Одновременно компания прикрутила кран с расходами. Если в I квартале операционные затраты выросли на 22%, то во втором — лишь на 10%. В итоге скорректированная EBITDA за полугодие увеличилась на 40%, до 1,8 млрд рублей. Долговая нагрузка осталась умеренной: отношение чистого долга к LTM скорректированной EBITDA составило 0,38.

Больше всего выручки принесла Astra Linux — 3,4 млрд рублей, на 13% больше прошлогоднего результата. Доходы от сопровождения продуктов выросли на 25%, до 2,5 млрд, а от остальных решений экосистемы — на 20%, до 1,7 млрд рублей.

Почивать на импортозамещённых лаврах компания не собирается. За полугодие она вложила в продуктовую разработку 1,7 млрд рублей и выпустила 28 крупных и небольших обновлений.

Среди новинок — агент «Астра ИИ Код» для анализа кода в закрытом контуре и платформа запуска ИИ-моделей «Боцман AI». Полноценную ИИ-стратегию компания обещает представить в сентябре.

В августе принадлежащая группе «Тантор Лабс» получила права на российскую СУБД «Персей» и забрала вместе с ней около 50 разработчиков. Параллельно «Группа Астра» осваивает Юго-Восточную Азию, выкупает собственные акции и сохраняет цель увеличить чистую прибыль по итогам 2026 года на 40%.

Правда, главный экзамен ещё впереди: около 70% годовых отгрузок компании традиционно приходится на второе полугодие. Красивые цифры есть, но финальный зачёт будет зимой.

RSS: Новости на портале Anti-Malware.ru