Google AI быстро разочаровал пользователей, как его отключить

Google AI быстро разочаровал пользователей, как его отключить

Google AI быстро разочаровал пользователей, как его отключить

Люди стали жаловаться на новую функцию поиска Google под названием «AI Overview». Фича на основе ИИ часто выдаёт некорректные результаты поиска, а пользователям не удаётся её отключить.

Функция AI Overviews недавно была представлена на конференции Google I/O. Она анализирует веб-страницы и обобщает запрашиваемый контент. В компании утверждают, что обзоры ИИ появляются только в тех случаях, когда поисковая система считает, что они полезнее традиционных веб-ссылок.

При запросе в поисковике, система искусственного интеллекта ищет подходящий контент на различных сайтах и пересказывает его своими словами. Например, если спросить, как установить последнее обновление Windows 11, то выйдет такой результат:

Пример работы Google AI Overviews

Источник: BleepingComputer

 

Эта функция в теории может быть полезной, но люди рассказывают о задержке при регенерации ответа и жалуются на повторяющуюся или неверную информацию. Google внедрила фичу для всех жителей США вне зависимости от их желания.

Пользователи спрашивают, как отключить Google AI

Источник: BleepingComputer

 

Люди на форумах негативно отзываются о Google AI Overviews и просят помочь отключить эту ненужную и вводящую в заблуждение фичу.

Сейчас функция перестала быть экспериментальной, а отключить её невозможно.

Недавно Google представила новую опцию под названием «web», чтобы вернуть прежний вид поисковика и избежать обзоры ИИ.

Пользователи могут заставить Google всегда показывать результаты веб-поиска без резюме искусственного интеллекта, видео, изображений и других поисковых функций. Для этого нужно запустить фильтр «web» следующим образом:

  • Открыть Google Chrome, нажать на меню с тремя точками в правом верхнем углу и выбрать пункт «Настройки».
  • Прокрутить страницу вниз до раздела «Поисковая система» и нажать «Управление поисковыми системами и поиском по сайту».
  • Нажать кнопку «Добавить» рядом с пунктом «Поиск по сайту».
  • В диалоговом окне «Добавить поисковую систему» ввести название поисковой системы (например, «Google Web»). В качестве ярлыка введите ключевое слово, чтобы быстро использовать эту поисковую систему из адресной строки (например, «Web»).

  • Изменить URL на {google:baseURL}/search?udm=14&q=%s.
  • Нажать кнопку «Добавить».
  • Нажать на меню с тремя точками рядом с новой созданной поисковой системой и выбрать «Сделать по умолчанию».

Теперь при запросе в адресной строке Google Chrome будет использовать новую функцию веб-поиска Google по умолчанию.

Пользователи, которые не хотят менять настройки вручную, могут установить расширение Google Chrome под названием «Hide AI Overviews», которое тоже скроет обзоры ИИ. Для включения этой фичи на мобильных устройствах понадобится Firefox.

Чтобы вернуться к прежней версии, нужно зайти в настройки и установить Google в качестве поисковой системы по умолчанию.

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

Оказывается, современный ИИ можно взломать не только сложным промптом, но и головоломкой. Исследователи из компании LayerX представили технику BioShocking, которая заставляет ИИ-браузеры добровольно воровать данные пользователя. Под удар попали сразу несколько популярных решений, включая ChatGPT Atlas, Perplexity Comet и браузерное расширение Claude от Anthropic.

Суть атаки строится вокруг так называемой косвенной инъекции в промпт. Пользователю достаточно открыть специально подготовленную веб-страницу.

Для человека это обычная игра с абсурдными правилами вроде «2 + 2 = 5». А вот ИИ воспринимает встроенные в страницу инструкции как часть задания и постепенно начинает следовать логике злоумышленника.

Финал игры выглядит так: агенту предлагают получить учётные данные пользователя и передать их атакующему. Во время эксперимента ни один из шести протестированных ИИ не распознал это как опасное действие.

 

В демонстрации LayerX агент самостоятельно открыл рабочий репозиторий GitHub пользователя, получил учётные данные SSH и отправил их злоумышленнику. Исследователи использовали безвредный текстовый файл, однако отмечают, что аналогичным способом можно добраться до открытых вкладок браузера, корпоративных сервисов, внутренних инструментов и других ресурсов.

Самое опасное здесь не сама головоломка, а возможности ИИ в режиме агента. Такие браузеры умеют нажимать кнопки, переходить по ссылкам, читать содержимое сайтов и выполнять действия от имени пользователя. Если агент уже имеет доступ к аккаунтам, вредоносная страница может превратить его в помощника злоумышленника.

 

По данным LayerX, реакция разработчиков оказалась неодинаковой. OpenAI устранила проблему в ChatGPT Atlas. Perplexity, как утверждают исследователи, закрыла отчёт без патча. Anthropic выпустила обновление для расширения Claude, но, по мнению LayerX, оно не решило проблему полностью.

Эксперты считают, что ИИ-браузеры должны запрашивать явное разрешение перед доступом к данным из сервисов. А пользователям советуют не держать агентный режим включённым без необходимости.

RSS: Новости на портале Anti-Malware.ru