Баг в поиске Google способствует распространению дезинформации

Баг в поиске Google способствует распространению дезинформации

Баг в поиске Google способствует распространению дезинформации

Простенький баг в поисковой системе Google может использовать любой желающий для распространения дезинформации, которая бы выглядела как вполне правдоподобные данные. Проблему обнаружил эксперт в области безопасности из Лондона Витце Бьюкма.

По словам самого исследователя, багом можно воспользоваться за счет соединения значений, полученных от семантической технологии Google «knowledge graph». Речь идет о небольших окошках, в которых по поисковому запросу перечисляются основные факты и присутствует визуальное оформление запрашиваемого объекта.

Эти окошка появляются в правой части страницы с результатами поиска, там можно найти информацию о странах, планетах, популярных сайтах и прочем. Это сделано для удобства пользователя — не надо заходить на какой-либо ресурс, чтобы узнать основную информацию об объекте поиска.

В своем блоге Бьюкма поделился следующей информацией — короткий URL, который используется для отображения это справки в поисковой выдаче, может быть подменен на любой другой, относящийся не к теме поиска.

Следовательно, если злоумышленник сформирует ссылку с запросом «столица Великобритании», результат в правой части страницы можно подменить таким образом, что там будет указано: «Марс».

Ради примера эксперт использовал этот баг в случае с поисковым запросом «кто является президентом США». Результат исследователь подменил на американского рэпера Снуп Догга:

Таким образом, по словам специалиста, баг настолько легко использовать, что любой может сформировать специальную ссылку с подмененной информацией, а далее уже отправить ее по электронной почте или опубликовать на Facebook.

Как можно понять, открывается целое поле для распространения дезинформации и подкрепления теорий заговоров.

В России письменные дипломы могут заменить устными экзаменами из-за ИИ

Развитие искусственного интеллекта может довести российские вузы до очень старой, но внезапно снова актуальной идеи: вместо письменной дипломной работы — устный экзамен. Министр науки и высшего образования РФ Валерий Фальков заявил, что такой формат позволит честнее оценивать реальные знания и компетенции студентов.

Логика простая: если текст можно сгенерировать, отредактировать и красиво упаковать с помощью ИИ, то сама по себе письменная работа уже не всегда показывает, что студент действительно понимает тему.

А вот на устном экзамене спрятаться за нейросетью сложнее: преподаватель задаёт вопросы, уточняет детали, просит объяснить логику, и там уже видно, кто разбирался, а кто просто принёс красиво оформленный документ.

Фальков, как передаёт ТАСС, назвал это возвращением к истокам высшего образования с помощью ИИ. По его словам, никакая система не подготовит студента к живым вопросам преподавателя так, чтобы это нельзя было почувствовать.

Ранее министр также говорил, что уже в ближайшие годы в вузы придут студенты, для которых искусственный интеллект будет привычным инструментом с рождения. Это означает, что подходы к обучению и оценке знаний придётся пересматривать регулярно, а не раз в десятилетие по большим праздникам.

По сути, университеты сталкиваются с простой проблемой: если ИИ умеет писать всё лучше, проверять нужно не только текст, но и человека за этим текстом. И устный экзамен здесь выглядит не архаикой, а вполне рабочим античитом против дипломов, собранных по принципу «нейросеть, сделай красиво».

RSS: Новости на портале Anti-Malware.ru