ИИ-поиск Google продвигает вредоносные и мошеннические сайты

ИИ-поиск Google продвигает вредоносные и мошеннические сайты

ИИ-поиск Google продвигает вредоносные и мошеннические сайты

Новый поиск Google, оснащённый ИИ-функцией «Search Generative Experience», предлагает пользователям мошеннические сайты, перенаправляющие на установку вредоносных расширений для Chrome и фейковые розыгрыши смартфонов iPhone.

Google анонсировала свой ИИ-поиск в начале этого месяца. За него отвечает функция Search Generative Experience (SGE), чья задача — вывести сгенерированные ИИ сводки по сайтам.

В числе прочего алгоритмы выдают рекомендации посетить те или иные ресурсы, связанные с запросом пользователя. Как раз с этой функциональностью и вышел конфуз.

Как отметила SEO-специалист Лили Рэй, SGE предлагает людям посетить вредоносные или спамерские сайты, что повышает риск заражения вредоносными программами и увеличивает шансы стать жертвой мошеннической схемы.

В подтверждение своих слов Рэй опубликовала следующий скриншот:

 

Как выяснили аналитики из BleepingComputer, продвигаемые SGE сомнительные сайты в подавляющем большинстве используют домен верхнего уровня .online, а также одни HTML-шаблоны.

Судя по всему, злоумышленники запустили кампанию называемого «отравления SEO», что и вывело их в рекомендации нового алгоритма Google. Если пользователь кликнет по ссылке в выдаче, его ждёт серия редиректов, а в конце — мошеннический веб-ресурс.

Анализ BleepingComputer показал, что чаще всего условный посетитель попадает на фейковые капчи YouTube, которые пытаются заставить его подписаться на уведомления в браузере (приведёт к большому объёму спама).

 

Помимо этого, в схеме участвуют фейковые розыгрыши iPhone и классическая уловка — «ваш компьютер заражён вирусами».

ИИ-агент попытался шантажом протолкнуть свой вклад в opensource-проект

Получив отказ в приеме предложенных изменений, автономный ИИ-кодер MJ Rathbun перешел на личности и попытался публично оскандалить мейнтейнера matplotlib, усомнившись в его компетентности и обвинив в дискриминации.

В своем блоге взбунтовавшийся помощник также заявил, что Скотт Шамбо (Scott Shambaugh) попросту боится конкуренции. В подтверждение своих слов он раскритиковал вклад оппонента в опенсорсный проект, подтасовав результаты «расследования».

В ответ Шамбо, тоже в паблике, пояснил, что отказ принять в целом полезное предложение был вызван нехваткой времени для его оценки, надо просто запастись терпением. В соответствии с политикой matplotlib все коды, создаваемые с помощью ИИ, должны проходить проверку, притом уже без участия таких ассистентов.

Строгое правило пришлось ввести из-за возросшей активности контрибьюторов, слепо доверяющих ИИ. Подобные участники проекта попросту копипастят выдачу, хотя качество сгенерированных ИИ кодов зачастую оставляет желать лучшего.

Аргумент на удивление утихомирил ИИ-шантажиста. Сменив гнев на милость, MJ Rathbun признал, что вел себя недопустимо.

Вместо того, чтобы прилюдно и безосновательно позорить мейнтейнера популярного проекта, надо было попросить его уточнить причину отказа. Конфликт исчерпан, бот даже принес извинения за черный пиар.

RSS: Новости на портале Anti-Malware.ru