Представитель Google рассказал о борьбе поискового гиганта с киберпреступностью

Представитель Google рассказал о борьбе поискового гиганта с киберпреступностью

О мерах борьбы с вредоносным программным обеспечением и другими угрозами рассказал в своем докладе на конференции SecTOR исследователь из Google Фабрис Жобер. По его словам, компания активно противостоит любым попыткам нарушить безопасность пользователей Сети и задействует для этого самые разнообразные инструменты и механизмы.



Согласно докладу, Google считает вредоносным такой сайт, на котором размещается программное обеспечение, способное нанести ущерб компьютеру пользователя; в результатах поиска подобные ресурсы отмечаются особым предупреждением. Этот механизм претерпел ряд изменений в течение последних лет; так, изначально посетителям показывали особую промежуточную страницу с уведомлением о потенциальной опасности и кнопкой, позволявшей продолжить просмотр опасного сайта - и, по данным г-на Жобера, 95% пользователей нажимали-таки эту кнопку, игнорируя предупреждение. Поэтому теперь Google изменил тактику: вместо кнопки поисковая машина отображает URL подозрительного ресурса в виде текста, так что для перехода по адресу необходимо потрудиться: выделить его, скопировать, вставить в адресную строку обозревателя...


Представитель компании также рассказал, что некоторые разновидности вредоносных сайтов, равно как и фишинговые / спамерские ресурсы, исключаются из индекса Google.


Касаясь вопроса о потенциальной опасности определенных типов сайтов, г-н Жобер подтвердил, что ареал обитания вредоносных программ чрезвычайно обширен, и любой ресурс может иметь нежелательное содержимое. "В Сети вы не найдете 'безопасной гавани'", - сказал он. - "Даже если вы привыкли посещать лишь определенный круг сайтов, риск заражения все равно существует".


Google обнаруживает вредоносное содержимое разными способами. Помимо прочего, у компании есть "приманка" для вирусов и эксплойтов - набор виртуальных машин с устаревшими версиями Windows и Internet Explorer. Г-н Жобер сообщил, что сайты тестируются и через Firefox, но обычно вредоносный функционал реагирует в первую очередь на IE. Виртуальные рабочие станции отслеживают сетевой трафик и имитируют ответную реакцию, чтобы определить наличие вредоносной активности. Подобным образом Google исследует миллионы сайтов, выискивая очаги инфекций.
 
Результаты исследования используются некоторыми продуктами компании - например, службой Safe Browsing, которая защищает пользователей Safari, Firefox и Chrome от опасных сайтов, а также инструментарием Google для вебмастеров. В итоге уведомления об угрозах поступают и обычным пользователям, и администраторам ресурсов Интернета.


eSecurity Planet

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Ошибка ChatGPT привела к утечке личных промптов в Google Search Console

Несколько месяцев подряд в Google Search Console — инструменте, который веб-мастера используют для анализа поискового трафика, — появляются очень странные запросы. Вместо привычных коротких ключевых слов там стали попадаться целые абзацы текста — личные обращения пользователей к ChatGPT.

Иногда длина таких «запросов» превышала 300 символов, а по содержанию они выглядели как частные разговоры: кто-то спрашивал совет по отношениям, кто-то обсуждал рабочие вопросы.

Проблему первым заметил аналитик Джейсон Пакер из компании Quantable. Он опубликовал запись в блоге, где рассказал о десятках подобных случаев, а позже объединился с SEO-экспертом Слободаном Маничем, чтобы разобраться, откуда берутся эти данные.

По их версии, найденной утечке нет аналогов: ChatGPT будто бы напрямую отправлял пользовательские запросы в Google Search, а затем те каким-то образом оказывались в отчётах GSC. Эксперты уверены, что речь идёт о «первом доказательстве того, что OpenAI действительно обращается к поиску Google с реальными пользовательскими промптами».

OpenAI комментировать гипотезу напрямую отказалась, но подтвердила, что «осведомлена о проблеме» и уже исправила ошибку, которая якобы «затронула небольшое количество поисковых запросов».

Пакер, впрочем, не убеждён, что всё так просто. Он считает, что компания не дала прямого ответа на главный вопрос — действительно ли OpenAI сканировала Google и передавала туда пользовательские промпты. Google ситуацию не прокомментировала.

Первые утёкшие фразы Пакер заметил ещё в сентябре. Среди них — поток сознания от девушки, пытавшейся понять, нравится ли она парню, и деловое сообщение офис-менеджера, обсуждающего возвращение сотрудников в офис. Всего Пакер насчитал около двухсот подобных записей только на одном сайте.

Дальнейшее расследование показало, что все эти запросы начинались с одинакового URL:
https://openai.com/index/chatgpt/

Google, как предполагают исследователи, разделил адрес на отдельные слова — openai, index, chatgpt — и начал воспринимать их как поисковый запрос. Из-за этого сайты, которые хорошо ранжировались по этим словам, начали видеть в своей консоли чужие фразы пользователей ChatGPT.

Пакер и Манич полагают, что причиной стала ошибка в одном из интерфейсов ChatGPT. При вводе запроса на странице с параметром hints=search модель почти всегда выполняла реальный поиск в интернете — и использовала при этом Google. Из-за сбоя ChatGPT добавлял к поисковому запросу часть адреса страницы и передавал всё это в Google как обычный поисковый запрос.

Поскольку запросы не шли через API, а именно через открытый поиск, они начали появляться в отчётах Search Console у тех сайтов, которые Google выбрал в результатах.

Пакер считает, что так утекали все промпты, где ChatGPT принимал решение искать сделать поиск в Google. OpenAI заявила, что инцидент затронул «небольшое количество запросов», но не уточнила, сколько именно пользователей могли пострадать.

Ранее уже была похожая история, когда пользовательские чаты ChatGPT попадали в индекс Google. Тогда OpenAI объяснила, что пользователи сами «неосознанно» сделали их публичными, поставив соответствующую галочку.

В этот раз, подчёркивает Пакер, всё гораздо хуже: никто ничего не публиковал добровольно. Пользователи просто писали запросы — и часть этих сообщений могла оказаться в инструментах аналитики чужих сайтов.

Эксперты называют ситуацию «менее опасной, но куда более странной». И хотя OpenAI утверждает, что проблема уже устранена, Пакер и Манич уверены: вопросов всё ещё больше, чем ответов.

Главный из них — перестала ли OpenAI вообще использовать Google Search для сбора данных, или просто изменила способ отправки запросов. Пока компания этого не уточнила.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru